之前提到，深度神经网络在训练中容易遇到梯度消失 爆炸的问题，这个问题产生的根源详见之前的读书笔记。在 Batch Normalization 中，我们将输入数据由激活函数的收敛区调整到梯度较大的区域，在一定程度上缓解了这种问题。不过，当网络的层数急剧增加时，BP 算法中导数的累乘效应还是很容易让梯度慢慢减小直至消失。这篇文章中介绍的深度残差 Deep Residual 学习网络可以说根治了这种问题 ...
2018-01-07 14:35 3 4048 推荐指数：
论文地址：Deep Residual Learning for Image Recognition ResNet——MSRA何凯明团队的Residual Networks，在2015年ImageNet上大放异彩，在ImageNet的classification、detection ...
的识别效果。 这篇论文的主要思想是通过学习两个deep network来构建face attrib ...
Deep Reinforcement Learning with Double Q-learning Google DeepMind Abstract 主流的 Q-learning 算法过高的估计在特定条件下的动作值。实际上，之前是不知道是否这样的过高估计是 common ...
Active Object Localization with Deep Reinforcement Learning ICCV 2015 最近Deep Reinforcement Learning算是火了一把，在Google Deep Mind的主页上，更是许多关于此 ...
Dueling Network Architectures for Deep Reinforcement Learning ICML 2016 Best Paper 摘要：本文的贡献点主要是在 DQN 网络结构上，将卷积神经网络提出的特征，分为两路走，即：the state ...
Playing Atari with Deep Reinforcement Learning 《Computer Science》, 2013 Abstract： 本文提出了一种深度学习方法，利用强化学习的方法，直接从高维的感知输入中学习控制策略。模型是一个卷积神经网络 ...
本篇文章发表在ICLR2020上，对动态图的进行连接预测和结点分类。TGN中，作者除利用传统的图神经网络捕捉非欧式结构生成embedding外，还利用动态图所中时序信息。 T ...
论文笔记(2)：A fast learning algorithm for deep belief nets. 这几天继续学习一篇论文，Hinton的A Fast Learning Algorithm for Deep Belief Nets。这篇论文一开始读起来是相当费劲的，学习 ...
