梯度下降算法（gradient descent）

簡述 梯度下降法又被稱為最速下降法(Steepest descend method)，其理論基礎是梯度的概念。梯度與方向導數的關系為：梯度的方向與取得最大方向導數值的方向一致，而梯度的模就是函數在該點 ...

深度神經網絡的優化算法

目前，深度神經網絡的參數學習主要是通過梯度下降法來尋找一組可以最小化結構風險的參數。在具體實現中，梯度下降法可以分為：批量梯度下降、隨機梯度下降以及小批量梯度下降三種形式。根據不同的數據量和參數量，可 ...