論文---overcoming catastrophic forgetting in neural networks理解
引用於：https://blog.csdn.net/u010195841/article/details/69257897 overcoming catastrophic forgetting in neural networks 出處：2017 Jan 25 PNAS ...
原文：論文閱讀筆記 連續學習中的EWC，DeepMind論文Overcoming catastrophic forgetting in neural networks
首先介紹下連續學習 Continuous Learning 吧。連續學習 Continuous Learning 又叫序列學習，顧名思義就是有順序的學習任務。 參照人類，我們在遇到一個新的問題時，除非是完全陌生的領域，都會或多或少的利用之前所學的知識或技能來幫助自己更快的學習，而不是從零開始 而且在學習完新的知識或技能后，並不會完全忘記之前學過的東西。更直觀的栗子：星星羽毛球打的賊溜，最近開始跟 ...
2019-03-22 10:41 0 1434 推薦指數：
相關推薦
論文閱讀 | Trojaning Attack on Neural Networks
對神經網絡的木馬攻擊 Q: 1. 模型蒸餾可以做防御嗎？ 2. 強化學習可以幫助生成木馬觸發器嗎？ 3. 怎么挑選建立強連接的units？ 本文提出了一種針對神經元網絡的木馬攻擊。模型不直觀，不易被人理解，攻擊具有隱蔽性。 首先對神經元網絡進行反向處理，生成一個通用的木馬 ...
《Learning Convolutional Neural Networks for Graphs》論文閱讀
首先，容我吐槽一下這篇論文的行文結構、圖文匹配程度、真把我搞得暈頭轉向，好些點全靠我猜測推理作者想干嘛，😈 背景 我們知道傳統的CNN針對的是image，是歐氏空間square grid，那么使用同樣square grid的卷積核就能對輸入的圖片進行特征的提取。在上一篇論文中，使用的理論 ...
《Diffusion-Convolutional Neural Networks》論文閱讀
DCNN 主要思想： 這是一篇基於空間域的圖神經網絡，聚合方式通過采樣（hop）1~k 階的鄰居並同 self 使用 mean 的方式得到新的 feature-vector 作者將不同的 ...
論文筆記之：Progressive Neural Network Google DeepMind
Progressive Neural Network Google DeepMind 摘要：學習去解決任務的復雜序列 --- 結合 transfer (遷移)，並且避免 catastrophic forgetting （災難性遺忘） --- 對於達到 human-level ...
論文筆記《Notes on convolutional neural networks》
這是個06年的老文章了，但是很多地方還是值得看一看的. 一、概要 主要講了CNN的Feedforward Pass和 Backpropagation Pass，關鍵是卷積層和polling層 ...
論文閱讀筆記三十：One pixel attack for fooling deep neural networks（CVPR2017）
論文源址：https://arxiv.org/abs/1710.08864 tensorflow代碼: https://github.com/Hyperparticle/one-pixel-attack-keras 摘要 在對網絡的輸入上做點小處理，就可以改變DNN ...
【筆記】論文閱讀 | One shot learning with memory-augmented neural networks
論文信息：Santoro A, Bartunov S, Botvinick M, et al. One-shot learning with memory-augmented neural networks[J]. arXiv preprint arXiv:1605.06065 ...