对抗验证(Adversarial validation）
交叉验证(Cross Validation)是常用的一种用来评估模型效果的方法。当样本分布发生变化时，交叉验证无法准确评估模型在测试集上的效果，这导致模型在测试集上的效果远低于训练集。 对抗验证(Adversarial Validation)，并不是一种评估模型效果的方法，而是一种用来确认训练集 ...
原文：对抗攻击领域综述（adversarial attack）
对抗攻击领域综述 adversarial attack 一 总结 一句话总结： 对抗攻击英文为adversarial attack。即对输入样本故意添加一些人无法察觉的细微的干扰，导致模型以高置信度给出一个错误的输出。 对抗攻击的意义 我们不知道神经网络提取到的特征点：深度神经网络对输入图片的特征有了一个比较好的提取，但是具体提取了什么特征以及为什么提取这个特征不知道。 找到神经网络提取到的特征点 ...
2020-09-30 07:49 0 3136 推荐指数：
相关推荐
黑盒对抗攻击论文《DaST: Data-free Substitute Training for Adversarial Attacks》阅读感想
论文链接：https://openaccess.thecvf.com/content_CVPR_2020/html/Zhou_DaST_Data-Free_Substitute_Training_for_Adversarial_Attacks_CVPR_2020_paper.html 先介绍对抗 ...
综述论文：对抗攻击的12种攻击方法和15种防御方法
https://www.jiqizhixin.com/articles/2018-03-05-4 这篇文章首次展示了在对抗攻击领域的综合考察。本文是为了比机器视觉更广泛的社区而写的，假设了读者只有基本的深度学习和图像处理知识。不管怎样，这里也为感兴趣的读者讨论了有重要贡献的技术细节。机器 ...
对抗样本综述(一)
引言 深度神经网络(DNN)在许多机器学习任务中越来越受欢迎。它们被应用在图像、图形、文本和语音领域的不同识别问题中，并且取得了显著的成功。在图像识别领域中，他们能够以接近人类识别的精度识别物体。同样在语音识别、自然语言处理和游戏等领域，DNN也得到广泛应用。 由于这些成就，深度学习技术 ...
Generative Adversarial Nets(生成对抗网络)
生成对抗网络通过一个对抗步骤来估计生成模型，它同时训练两个模型：一个是获取数据分布的生成模型$G$，一个是估计样本来自训练数据而不是$G$的概率的判别模型$D$。$G$的训练步骤就是最大化$D$犯错的概率。这个框架对应于一个二元极小极大博弈。在任意函数$G$和$D$的空间中，存在唯一解，$G ...
对抗攻击(一) FGSM
引言 在深度学习领域内的对抗样本综述(二)中，我们知道了几种著名的对抗攻击和对抗防御的方法。下面具体来看下几种对抗攻击是如何工作的。这篇文章介绍FGSM(Fast Gradient Sign Method)。 预备知识 符号函数sign 泰勒展开 当函数\(f(x)\)在点\(x_0 ...
生成对抗网络 Generative Adversarial Networks
转自：https://zhuanlan.zhihu.com/p/26499443 生成对抗网络GAN是由蒙特利尔大学Ian Goodfellow教授和他的学生在2014年提出的机器学习架构。 要全面理解生成对抗网络，首先要理解的概念是监督式学习和非监督式学习。监督式学习是指基于大量带有 ...
对抗生成网络 Generative Adversarial Networks
1. Basic idea 基本任务：要得到一个generator，能够模拟想要的数据分布。(一个低维向量到一个高维向量的映射） discriminator就像是一个score f ...