对抗防御之对抗样本检测（一）：Feature Squeezing
引言 在之前的文章中，我们介绍了对抗样本和对抗攻击的方法。在该系列文章中，我们介绍一种对抗样本防御的策略--对抗样本检测，可以通过检测对抗样本来强化DNN模型。本篇文章论述其中一种方法：feature squeezing，特征压缩通过将原始空间中许多不同特征向量对应的样本合并成一个样本，减少 ...
原文：对抗样本攻击及防御实战
前言 对抗样本大家都耳熟能详了，但是大家可能觉得离自己比较远，毕竟主要是学术界在做这方面的工作，可能还需要很多数学理论基础，所以没有尝试动手实践过。在本文中，不会提及高深的数学理论，唯一的公式也仅是用于形式化描述攻击方案，并不涉及任何数学概念，同时以代码为导向，将论文中提出的方案进行实践，成功实施对抗样本攻击，之后给出了典型的防御方案，即对抗训练，同样也是以实战为导向，证明防御方案的有效性。对抗 ...
2021-08-16 17:03 0 158 推荐指数：
相关推荐
深度学习中的对抗攻击和对抗防御
https://zhuanlan.zhihu.com/p/138462196 摘要： 在深度学习（deep leaming，DL）算法驱动的数据计算时代，确保算法的安全性和鲁棒性至关重要。最近，研究者发现深度学习算法无法有效地处理对抗样本。这些伪造的样本对人类的判断没有太大影响，但会使深度学习 ...
6 15种对抗攻击的防御方法
目前，在对抗攻击防御上存在三个主要方向： 1）在学习过程中修改训练过程或者修改的输入样本。 2）修改网络，比如：添加更多层/子网络、改变损失/激活函数等。 3）当分类未见过的样本时，用外部模型作为附加网络。 第一个方法没有直接处理学习模型。另一方面，另外两个分类是更加关心 ...
八、对抗样本1
参考自： https://blog.csdn.net/qq_16234613/article/details/79679393 定义 深度模型具有良好的泛化能力同时，也具有极高脆弱性。以分类为例：只需要通过故意添加细微的干扰所形成的输入样本（对抗样本），模型以高置信度给出了一个错误的输出 ...
对抗样本与对抗训练2
转载自：https://blog.csdn.net/cdpac/article/details/53170940 对以下论文进行解读：3.Intriguing properties of neura ...
综述论文：对抗攻击的12种攻击方法和15种防御方法
https://www.jiqizhixin.com/articles/2018-03-05-4 这篇文章首次展示了在对抗攻击领域的综合考察。本文是为了比机器视觉更广泛的社区而写的，假设了读者只有基本的深度学习和图像处理知识。不管怎样，这里也为感兴趣的读者讨论了有重要贡献的技术细节。机器 ...
九、产生和防御对抗样本的新方法 | 分享总结--廖方舟（论文11）
视频连接：http://www.mooc.ai/course/383/learn#lesson/2163 论文总结：http://ai.yanxishe.com/page/blogDetail/5357 对抗样本的攻防： 什么是对抗样本 ...
对抗样本综述(一)
引言 深度神经网络(DNN)在许多机器学习任务中越来越受欢迎。它们被应用在图像、图形、文本和语音领域的不同识别问题中，并且取得了显著的成功。在图像识别领域中，他们能够以接近人类识别的精度识别物体。同 ...