。 當然這問題不僅出現在深度模型中，在其他機器學習模型也存在。“對抗樣本”是安全方面非常好的一個議題，因 ...

轉載自：https://blog.csdn.net/cdpac/article/details/53170940 對以下論文進行解讀：3.Intriguing properties of neura ...

引言 深度神經網絡(DNN)在許多機器學習任務中越來越受歡迎。它們被應用在圖像、圖形、文本和語音領域的不同識別問題中，並且取得了顯著的成功。在圖像識別領域中，他們能夠以接近人類識別的精度識別物體。同樣在語音識別、自然語言處理和游戲等領域，DNN也得到廣泛應用。 由於這些成就，深度學習技術 ...

自然語言處理方面的研究在近幾年取得了驚人的進步，深度神經網絡模型已經取代了許多傳統的方法。但是，當前提出的許多自然語言處理模型並不能夠反映文本的多樣特征。因此，許多研究者認為應該開辟新的研究方法，特別是利用近幾年較為流行的對抗樣本生成和防御的相關研究方法。 使用對抗樣本生成和防御的自然語言處理 ...

引言 在之前的文章中，我們介紹了對抗樣本和對抗攻擊的方法。在該系列文章中，我們介紹一種對抗樣本防御的策略--對抗樣本檢測，可以通過檢測對抗樣本來強化DNN模型。本篇文章論述其中一種方法：feature squeezing，特征壓縮通過將原始空間中許多不同特征向量對應的樣本合並成一個樣本，減少 ...

[1]Karparthy博客 Breaking Linear Classifiers on ImageNet http://karpathy.github.io/2015/03/30/breakin ...

同步自我的知乎專欄：https://zhuanlan.zhihu.com/p/26122612 上篇文章 瞎談CNN：通過優化求解輸入圖像 - 知乎專欄 中提到過對抗樣本，這篇算是針對對抗樣本的一個小小擴充：用Fast Gradient Sign方法在Caffe中生成對抗樣本。 本文代碼的完整 ...

#前言 對抗樣本大家都耳熟能詳了，但是大家可能覺得離自己比較遠，畢竟主要是學術界在做這方面的工作，可能還需要很多數學理論基礎，所以沒有嘗試動手實踐過。在本文中，不會提及高深的數學理論，唯一的公式也僅是用於形式化描述攻擊方案，並不涉及任何數學概念，同時以代碼為導向，將論文中提出的方案進行實踐，成功 ...