1. 前言 今天我們聊一聊機器學習和深度學習里面都至關重要的一個環節，優化損失函數。我們知道一個模型只有損失函數收斂到了一定的值，才有可能會有好的結果，降低損失方式的工作就是優化方法需要做的事。下面 ...

1. 梯度下降 沿着目標函數梯度的反方向搜索極小值。 式中，$\theta$是模型參數，$J(\theta)$目標函數（損失函數），$\eta$是學習率。 2. 隨機梯度下降（SGD） ...

深度學習中常用的優化器簡介 SGD mini-batch SGD 是最基礎的優化方法，是后續改良方法的基礎。下式給出SGD的更新公式 \[\theta_t = \theta_{t-1} - ...

梯度下降 由於梯度下降法中負梯度方向作為變量的變化方向，所以有可能導 致最終求解的值是局部最優解，所以在使用梯度下降的時候，一般需 要進行一些調優策略： 學習率的選擇： 學習率過大，表示每次 ...

參考 https://ruder.io/optimizing-gradient-descent/ 。 本文不是簡單地翻譯，而是真的花了一天的時間和心思來寫，這一過程中我也重新復習了一遍，而且 ...