AdaGrad 算法根据自变量在每个维度的梯度值调整各个维度的学习率，从而避免统一的维度难以适应所有维度的问题。 特点： 小批量随机梯度按元素累加变量，出现在学习率的分母项中。（若目标函数有关自变量的偏导数一直都较大，那么学习率下降较快；反之亦然。） 若迭代早期下降过快 ...

目录 mini-batch 指数加权平均 优化梯度下降法：momentum、RMSprop、Adam 学习率衰减 局部最优问题 一、mini-batch mini-batch：把训练集划分成小点的子集 表示法 $x ...

前言 以下内容是个人学习之后的感悟，转载请注明出处~ Mini-batch梯度下降法 　　见另一篇文章：梯度下降法。 指数加权平均 　　其原理如下图所示，以每天的温度为例，每天的温度加权平均值等于β乘以前一天的温度加权平均值，再加上（1-β）乘以 ...

。 这里介绍比较常用的小批量梯度下降，以及自适应调整学习率和梯度方向优化的两种算法。 一、小批量梯度 ...

，通过拓扑结构连接而成。 能够自主学习是神经网络一种最重要也最令人注目的能力。自从20世纪40 ...

理解反向传播 要理解反向传播，先来看看正向传播。下面是一个神经网络的一般结构图： 其中，\(x\) 表示输入样本，\(\bm{w}\) 表示未知参数(图中未标出偏置 \(b\))， \(S\) 表 ...

深度学习（一）——CNN（卷积神经网络）算法流程 参考：http://dataunion.org/11692.html 0 引言 20世纪60年代，Hubel和Wiesel在研究猫脑皮层中用于局部敏感和方向选择的神经元时发现其独特的网络结构可以有效地降低反馈神经网络的复杂性 ...

，最后能够保证收敛于极值点（凸函数收敛于全局极值点，非凸函数可能会收敛于局部极值点） 缺点：每次学习时间过 ...