原文:論文筆記(2):A fast learning algorithm for deep belief nets.

論文筆記 :A fast learning algorithm for deep belief nets. 這幾天繼續學習一篇論文,Hinton的A Fast Learning Algorithm for Deep Belief Nets。這篇論文一開始讀起來是相當費勁的,學習了好幾天才了解了相關的背景,慢慢的思路也開始清晰起來。DBN算法就是Wake Sleep算法 RBM,但是論文對Wake ...

2018-05-15 23:05 0 3986 推薦指數:

查看詳情

論文筆記Deep Residual Learning

之前提到,深度神經網絡在訓練中容易遇到梯度消失/爆炸的問題,這個問題產生的根源詳見之前的讀書筆記。在 Batch Normalization 中,我們將輸入數據由激活函數的收斂區調整到梯度較大的區域,在一定程度上緩解了這種問題。不過,當網絡的層數急劇增加時,BP 算法中導數的累乘效應還是很容易 ...

Sun Jan 07 22:35:00 CST 2018 3 4048
論文筆記之:Deep Reinforcement Learning with Double Q-learning

Deep Reinforcement Learning with Double Q-learning Google DeepMind   Abstract   主流的 Q-learning 算法過高的估計在特定條件下的動作值。實際上,之前是不知道是否這樣的過高估計是 common ...

Mon Jun 27 23:39:00 CST 2016 0 5332
論文筆記之:Asynchronous Methods for Deep Reinforcement Learning

   Asynchronous Methods for Deep Reinforcement Learning ICML 2016   深度強化學習最近被人發現貌似不太穩定,有人提出很多改善的方法,這些方法有很多共同的 idea:一個 online 的 agent 碰到的觀察到的數據 ...

Mon Jul 18 23:43:00 CST 2016 0 5518
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM