【原創】batch-GD， SGD， Mini-batch-GD， Stochastic GD， Online-GD -- 大數據背景下的梯度訓練算法

機器學習中梯度下降（Gradient Descent， GD）算法只需要計算損失函數的一階導數，計算代價小，非常適合訓練數據非常大的應用。 梯度下降法的物理意義很好理解，就是沿着當前點的梯度方向進行 ...