参考自： https://blog.csdn.net/qq_16234613/article/details/79679393 定义 深度模型具有良好的泛化能力同时，也具有极高脆弱性。以分类为例：只需要通过故意添加细微的干扰所形成的输入样本（对抗样本），模型以高置信度给出了一个错误的输出 ...

转载自：https://blog.csdn.net/cdpac/article/details/53170940 对以下论文进行解读：3.Intriguing properties of neura ...

自然语言处理方面的研究在近几年取得了惊人的进步，深度神经网络模型已经取代了许多传统的方法。但是，当前提出的许多自然语言处理模型并不能够反映文本的多样特征。因此，许多研究者认为应该开辟新的研究方法，特别是利用近几年较为流行的对抗样本生成和防御的相关研究方法。 使用对抗样本生成和防御的自然语言处理 ...

小样本学习综述 数据是机器学习领域的重要资源，在数据缺少的情况下如何训练模型呢？小样本学习是其中一个解决方案。来自香港科技大学和第四范式的研究人员综述了该领域的研究发展，并提出了未来的研究方向。 这篇综述论文已被 ACM Computing Surveys 接收，作者还建立了 GitHub ...

引言 在之前的文章中，我们介绍了对抗样本和对抗攻击的方法。在该系列文章中，我们介绍一种对抗样本防御的策略--对抗样本检测，可以通过检测对抗样本来强化DNN模型。本篇文章论述其中一种方法：feature squeezing，特征压缩通过将原始空间中许多不同特征向量对应的样本合并成一个样本，减少 ...

[1]Karparthy博客 Breaking Linear Classifiers on ImageNet http://karpathy.github.io/2015/03/30/breakin ...

同步自我的知乎专栏：https://zhuanlan.zhihu.com/p/26122612 上篇文章 瞎谈CNN：通过优化求解输入图像 - 知乎专栏 中提到过对抗样本，这篇算是针对对抗样本的一个小小扩充：用Fast Gradient Sign方法在Caffe中生成对抗样本。 本文代码的完整 ...

#前言 对抗样本大家都耳熟能详了，但是大家可能觉得离自己比较远，毕竟主要是学术界在做这方面的工作，可能还需要很多数学理论基础，所以没有尝试动手实践过。在本文中，不会提及高深的数学理论，唯一的公式也仅是用于形式化描述攻击方案，并不涉及任何数学概念，同时以代码为导向，将论文中提出的方案进行实践，成功 ...