最近回顧神經網絡的知識，簡單做一些整理，歸檔一下神經網絡優化算法的知識。關於神經網絡的優化，吳恩達的深度學習課程講解得非常通俗易懂，有需要的可以去學習一下，本人只是對課程知識點做一個總結。吳恩達的深度學習課程放在了網易雲課堂上，鏈接如下（免費）： https ...

1.mini-batch梯度下降 在前面學習向量化時，知道了可以將訓練樣本橫向堆疊，形成一個輸入矩陣和對應的輸出矩陣： 當數據量不是太大時，這樣做當然會充分利用向量化的優點，一次訓練中就可以將所有訓練樣本涵蓋，速度也會較快。但當數據量急劇增大，達到百萬甚至更大的數量級時，組成的矩陣將極其龐大 ...

SGD SGD指stochastic gradient descent，即隨機梯度下降。是梯度下降的batch版本。 對於訓練數據集，我們首先將其分成n個batch，每個batch包含m個樣本。我們每次更新都利用一個batch的數據，而非整個訓練集。即： xt+1 ...

批梯度下降： 1）采用所有數據來梯度下降，在樣本量很大的時，學習速度較慢，因為處理完全部數據，我們僅執行了一次參數的更新。 2）在學習過程中，我們會陷入損失函數的局部最小值，而永遠無法達到神經網絡獲得最佳結果的全局最優值。這是因為我們計算的梯度大致相同 ...

動量梯度下降法（Gradient descent with Momentum） 還有一種算法叫做 Momentum，或者叫做動量梯度下降法，運行速度幾乎總是快於標准的梯度下降算法，簡而言之，基本的想法就是計算梯度的指數加權平均數，並利用該梯度更新你的權重。 如果你要優化成本函數，函數形狀 ...

目錄 　　Adagrad法 　　RMSprop法 　　Momentum法 　　Adam法 　　參考資料 發展歷史 標准梯度下降法的缺陷 如果學習率選的不恰當會出現以上情況 因此有一些自動調學習率的方法。一般來說，隨着迭代次數的增加，學習率應該越來越小 ...

其實應該叫做指數加權平均梯度下降法。 ...

目錄 一、牛頓法與擬牛頓法 1、牛頓法 1.1 原始牛頓法（假設f凸函數且兩階連續可導，Hessian矩陣非奇異） 算法1.1 牛頓法 1.2 阻尼牛頓法 ...