對抗驗證(Adversarial validation）
交叉驗證(Cross Validation)是常用的一種用來評估模型效果的方法。當樣本分布發生變化時，交叉驗證無法准確評估模型在測試集上的效果，這導致模型在測試集上的效果遠低於訓練集。 對抗驗證(Adversarial Validation)，並不是一種評估模型效果的方法，而是一種用來確認訓練集 ...
原文：對抗攻擊領域綜述（adversarial attack）
對抗攻擊領域綜述 adversarial attack 一 總結 一句話總結： 對抗攻擊英文為adversarial attack。即對輸入樣本故意添加一些人無法察覺的細微的干擾，導致模型以高置信度給出一個錯誤的輸出。 對抗攻擊的意義 我們不知道神經網絡提取到的特征點：深度神經網絡對輸入圖片的特征有了一個比較好的提取，但是具體提取了什么特征以及為什么提取這個特征不知道。 找到神經網絡提取到的特征點 ...
2020-09-30 07:49 0 3136 推薦指數：
相關推薦
黑盒對抗攻擊論文《DaST: Data-free Substitute Training for Adversarial Attacks》閱讀感想
論文鏈接：https://openaccess.thecvf.com/content_CVPR_2020/html/Zhou_DaST_Data-Free_Substitute_Training_for_Adversarial_Attacks_CVPR_2020_paper.html 先介紹對抗 ...
綜述論文：對抗攻擊的12種攻擊方法和15種防御方法
https://www.jiqizhixin.com/articles/2018-03-05-4 這篇文章首次展示了在對抗攻擊領域的綜合考察。本文是為了比機器視覺更廣泛的社區而寫的，假設了讀者只有基本的深度學習和圖像處理知識。不管怎樣，這里也為感興趣的讀者討論了有重要貢獻的技術細節。機器 ...
對抗樣本綜述(一)
引言 深度神經網絡(DNN)在許多機器學習任務中越來越受歡迎。它們被應用在圖像、圖形、文本和語音領域的不同識別問題中，並且取得了顯著的成功。在圖像識別領域中，他們能夠以接近人類識別的精度識別物體。同樣在語音識別、自然語言處理和游戲等領域，DNN也得到廣泛應用。 由於這些成就，深度學習技術 ...
Generative Adversarial Nets(生成對抗網絡)
生成對抗網絡通過一個對抗步驟來估計生成模型，它同時訓練兩個模型：一個是獲取數據分布的生成模型$G$，一個是估計樣本來自訓練數據而不是$G$的概率的判別模型$D$。$G$的訓練步驟就是最大化$D$犯錯的概率。這個框架對應於一個二元極小極大博弈。在任意函數$G$和$D$的空間中，存在唯一解，$G ...
對抗攻擊(一) FGSM
引言 在深度學習領域內的對抗樣本綜述(二)中，我們知道了幾種著名的對抗攻擊和對抗防御的方法。下面具體來看下幾種對抗攻擊是如何工作的。這篇文章介紹FGSM(Fast Gradient Sign Method)。 預備知識 符號函數sign 泰勒展開 當函數\(f(x)\)在點\(x_0 ...
生成對抗網絡 Generative Adversarial Networks
轉自：https://zhuanlan.zhihu.com/p/26499443 生成對抗網絡GAN是由蒙特利爾大學Ian Goodfellow教授和他的學生在2014年提出的機器學習架構。 要全面理解生成對抗網絡，首先要理解的概念是監督式學習和非監督式學習。監督式學習是指基於大量帶有 ...
對抗生成網絡 Generative Adversarial Networks
1. Basic idea 基本任務：要得到一個generator，能夠模擬想要的數據分布。(一個低維向量到一個高維向量的映射） discriminator就像是一個score f ...