對抗防御之對抗樣本檢測（一）：Feature Squeezing
引言 在之前的文章中，我們介紹了對抗樣本和對抗攻擊的方法。在該系列文章中，我們介紹一種對抗樣本防御的策略--對抗樣本檢測，可以通過檢測對抗樣本來強化DNN模型。本篇文章論述其中一種方法：feature squeezing，特征壓縮通過將原始空間中許多不同特征向量對應的樣本合並成一個樣本，減少 ...
原文：對抗樣本攻擊及防御實戰
前言 對抗樣本大家都耳熟能詳了，但是大家可能覺得離自己比較遠，畢竟主要是學術界在做這方面的工作，可能還需要很多數學理論基礎，所以沒有嘗試動手實踐過。在本文中，不會提及高深的數學理論，唯一的公式也僅是用於形式化描述攻擊方案，並不涉及任何數學概念，同時以代碼為導向，將論文中提出的方案進行實踐，成功實施對抗樣本攻擊，之后給出了典型的防御方案，即對抗訓練，同樣也是以實戰為導向，證明防御方案的有效性。對抗 ...
2021-08-16 17:03 0 158 推薦指數：
相關推薦
深度學習中的對抗攻擊和對抗防御
https://zhuanlan.zhihu.com/p/138462196 摘要： 在深度學習（deep leaming，DL）算法驅動的數據計算時代，確保算法的安全性和魯棒性至關重要。最近，研究者發現深度學習算法無法有效地處理對抗樣本。這些偽造的樣本對人類的判斷沒有太大影響，但會使深度學習 ...
6 15種對抗攻擊的防御方法
目前，在對抗攻擊防御上存在三個主要方向： 1）在學習過程中修改訓練過程或者修改的輸入樣本。 2）修改網絡，比如：添加更多層/子網絡、改變損失/激活函數等。 3）當分類未見過的樣本時，用外部模型作為附加網絡。 第一個方法沒有直接處理學習模型。另一方面，另外兩個分類是更加關心 ...
八、對抗樣本1
參考自： https://blog.csdn.net/qq_16234613/article/details/79679393 定義 深度模型具有良好的泛化能力同時，也具有極高脆弱性。以分類為例：只需要通過故意添加細微的干擾所形成的輸入樣本（對抗樣本），模型以高置信度給出了一個錯誤的輸出 ...
對抗樣本與對抗訓練2
轉載自：https://blog.csdn.net/cdpac/article/details/53170940 對以下論文進行解讀：3.Intriguing properties of neura ...
綜述論文：對抗攻擊的12種攻擊方法和15種防御方法
https://www.jiqizhixin.com/articles/2018-03-05-4 這篇文章首次展示了在對抗攻擊領域的綜合考察。本文是為了比機器視覺更廣泛的社區而寫的，假設了讀者只有基本的深度學習和圖像處理知識。不管怎樣，這里也為感興趣的讀者討論了有重要貢獻的技術細節。機器 ...
九、產生和防御對抗樣本的新方法 | 分享總結--廖方舟（論文11）
視頻連接：http://www.mooc.ai/course/383/learn#lesson/2163 論文總結：http://ai.yanxishe.com/page/blogDetail/5357 對抗樣本的攻防： 什么是對抗樣本 ...
對抗樣本綜述(一)
引言 深度神經網絡(DNN)在許多機器學習任務中越來越受歡迎。它們被應用在圖像、圖形、文本和語音領域的不同識別問題中，並且取得了顯著的成功。在圖像識別領域中，他們能夠以接近人類識別的精度識別物體。同 ...