1. 前言 今天我们聊一聊机器学习和深度学习里面都至关重要的一个环节，优化损失函数。我们知道一个模型只有损失函数收敛到了一定的值，才有可能会有好的结果，降低损失方式的工作就是优化方法需要做的事。下面 ...

1. 梯度下降 沿着目标函数梯度的反方向搜索极小值。 式中，$\theta$是模型参数，$J(\theta)$目标函数（损失函数），$\eta$是学习率。 2. 随机梯度下降（SGD） ...

深度学习中常用的优化器简介 SGD mini-batch SGD 是最基础的优化方法，是后续改良方法的基础。下式给出SGD的更新公式 \[\theta_t = \theta_{t-1} - ...

梯度下降 由于梯度下降法中负梯度方向作为变量的变化方向，所以有可能导 致最终求解的值是局部最优解，所以在使用梯度下降的时候，一般需 要进行一些调优策略： 学习率的选择： 学习率过大，表示每次 ...

参考 https://ruder.io/optimizing-gradient-descent/ 。 本文不是简单地翻译，而是真的花了一天的时间和心思来写，这一过程中我也重新复习了一遍，而且 ...