对抗样本攻击及防御实战
实施对抗样本攻击，之后给出了典型的防御方案，即对抗训练，同样也是以实战为导向，证明防御方案的有效性。对 ...
原文：对抗防御之对抗样本检测（一）：Feature Squeezing
引言 在之前的文章中，我们介绍了对抗样本和对抗攻击的方法。在该系列文章中，我们介绍一种对抗样本防御的策略 对抗样本检测，可以通过检测对抗样本来强化DNN模型。本篇文章论述其中一种方法：feature squeezing，特征压缩通过将原始空间中许多不同特征向量对应的样本合并成一个样本，减少了对手可用的搜索空间。通过比较DNN模型对原始输入的预测与对实施特征压缩后的输入的预测，特征压缩能够以高精度检 ...
2021-08-13 16:01 0 399 推荐指数：
相关推荐
八、对抗样本1
参考自： https://blog.csdn.net/qq_16234613/article/details/79679393 定义 深度模型具有良好的泛化能力同时，也具有极高脆弱性。以分类为例：只需要通过故意添加细微的干扰所形成的输入样本（对抗样本），模型以高置信度给出了一个错误的输出 ...
对抗样本与对抗训练2
转载自：https://blog.csdn.net/cdpac/article/details/53170940 对以下论文进行解读：3.Intriguing properties of neura ...
对抗样本综述(一)
引言 深度神经网络(DNN)在许多机器学习任务中越来越受欢迎。它们被应用在图像、图形、文本和语音领域的不同识别问题中，并且取得了显著的成功。在图像识别领域中，他们能够以接近人类识别的精度识别物体。同 ...
NLP中的对抗样本
自然语言处理方面的研究在近几年取得了惊人的进步，深度神经网络模型已经取代了许多传统的方法。但是，当前提出的许多自然语言处理模型并不能够反映文本的多样特征。因此，许多研究者认为应该开辟新的研究方法，特别是利用近几年较为流行的对抗样本生成和防御的相关研究方法。 使用对抗样本生成和防御的自然语言处理 ...
深度学习中的对抗攻击和对抗防御
https://zhuanlan.zhihu.com/p/138462196 摘要： 在深度学习（deep leaming，DL）算法驱动的数据计算时代，确保算法的安全性和鲁棒性至关重要。最近，研究者发现深度学习算法无法有效地处理对抗样本。这些伪造的样本对人类的判断没有太大影响，但会使深度学习 ...
对抗样本论文总结
[1]Karparthy博客 Breaking Linear Classifiers on ImageNet http://karpathy.github.io/2015/03/30/breakin ...
用Caffe生成对抗样本
同步自我的知乎专栏：https://zhuanlan.zhihu.com/p/26122612 上篇文章 瞎谈CNN：通过优化求解输入图像 - 知乎专栏 中提到过对抗样本，这篇算是针对对抗样本的一个小小扩充：用Fast Gradient Sign方法在Caffe中生成对抗样本。 本文代码的完整 ...