原文:论文笔记(2):A fast learning algorithm for deep belief nets.

论文笔记 :A fast learning algorithm for deep belief nets. 这几天继续学习一篇论文,Hinton的A Fast Learning Algorithm for Deep Belief Nets。这篇论文一开始读起来是相当费劲的,学习了好几天才了解了相关的背景,慢慢的思路也开始清晰起来。DBN算法就是Wake Sleep算法 RBM,但是论文对Wake ...

2018-05-15 23:05 0 3986 推荐指数:

查看详情

论文笔记Deep Residual Learning

之前提到,深度神经网络在训练中容易遇到梯度消失/爆炸的问题,这个问题产生的根源详见之前的读书笔记。在 Batch Normalization 中,我们将输入数据由激活函数的收敛区调整到梯度较大的区域,在一定程度上缓解了这种问题。不过,当网络的层数急剧增加时,BP 算法中导数的累乘效应还是很容易 ...

Sun Jan 07 22:35:00 CST 2018 3 4048
论文笔记之:Deep Reinforcement Learning with Double Q-learning

Deep Reinforcement Learning with Double Q-learning Google DeepMind   Abstract   主流的 Q-learning 算法过高的估计在特定条件下的动作值。实际上,之前是不知道是否这样的过高估计是 common ...

Mon Jun 27 23:39:00 CST 2016 0 5332
论文笔记之:Asynchronous Methods for Deep Reinforcement Learning

   Asynchronous Methods for Deep Reinforcement Learning ICML 2016   深度强化学习最近被人发现貌似不太稳定,有人提出很多改善的方法,这些方法有很多共同的 idea:一个 online 的 agent 碰到的观察到的数据 ...

Mon Jul 18 23:43:00 CST 2016 0 5518
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM