論文閱讀筆記 連續學習中的EWC，DeepMind論文Overcoming catastrophic forgetting in neural networks
首先介紹下連續學習(Continuous Learning)吧。連續學習(Continuous Learning)又叫序列學習，顧名思義就是有順序的學習任務。 參照人類，我們在遇到一個新的問題 ...
原文：論文---overcoming catastrophic forgetting in neural networks理解
引用於：https: blog.csdn.net u article details overcoming catastrophic forgetting in neural networks 出處： Jan PNAS proceedings of the national academy of sciences 作者：deepmind團隊 具體作者就不一一表述 deepmind團隊是深度學習應用 ...
2018-09-29 11:23 0 700 推薦指數：
相關推薦
災難性遺忘（catastrophic forgetting）
Overcoming catastrophic forgetting in neural networks（克服神經網絡中的災難性遺忘） 原文： https://www.pnas.org/content/pnas/early/2017/03/13/1611835114.full.pdf 翻譯 ...
災難性遺忘問題 Catastrophic Forgetting
《Overcoming Catastrophic Forgetting in Neural Networks》一文中彈性權重鞏固算法（EWC） 出自：https://mp.weixin.qq.com/s/645qAnnBrY2A1J5d8km2uQ 同樣解釋：https ...
《Population Based Training of Neural Networks》論文解讀
很早之前看到這篇文章的時候，覺得這篇文章的思想很朴素，沒有讓人眼前一亮的東西就沒有太在意。之后讀到很多Multi-Agent或者並行訓練的文章，都會提到這個算法，比如第一視角多人游戲(Quake ...
論文閱讀 | Trojaning Attack on Neural Networks
對神經網絡的木馬攻擊 Q: 1. 模型蒸餾可以做防御嗎？ 2. 強化學習可以幫助生成木馬觸發器嗎？ 3. 怎么挑選建立強連接的units？ 本文提出了一種針對神經元網絡的木馬攻擊。模型不直觀，不易被人理解，攻擊具有隱蔽性。 首先對神經元網絡進行反向處理，生成一個通用的木馬 ...
論文筆記《Notes on convolutional neural networks》
這是個06年的老文章了，但是很多地方還是值得看一看的. 一、概要 主要講了CNN的Feedforward Pass和 Backpropagation Pass，關鍵是卷積層和polling層 ...
《Learning Convolutional Neural Networks for Graphs》論文閱讀
首先，容我吐槽一下這篇論文的行文結構、圖文匹配程度、真把我搞得暈頭轉向，好些點全靠我猜測推理作者想干嘛，😈 背景 我們知道傳統的CNN針對的是image，是歐氏空間square grid，那么使用同樣square grid的卷積核就能對輸入的圖片進行特征的提取。在上一篇論文中，使用的理論 ...
《Diffusion-Convolutional Neural Networks》論文閱讀
DCNN 主要思想： 這是一篇基於空間域的圖神經網絡，聚合方式通過采樣（hop）1~k 階的鄰居並同 self 使用 mean 的方式得到新的 feature-vector 作者將不同的 ...