在機器學習中，尤其是回歸模型，經常用到梯度下降法和最小二乘法，這里把最小二乘法的原理及代碼實現總結處理。
1 最小二乘法原理
首先要清楚，最小二乘法要解決的是什么問題呢？根據前面的線性回歸，我們知道線性回歸的假設函數：
損失函數：
損失函數計算訓練數據集中每一個樣本實例的估計值和實際值的平方差並求平均，這里構建損失函數來衡量估計值與實際值之間的誤差，將最小化損失函數作為約束條件求解參數向量的最優解。
最小二乘法原理及代碼實現
免責聲明！
本站轉載的文章為個人學習借鑒使用，本站對版權不負任何法律責任。如果侵犯了您的隱私權益，請聯系本站郵箱yoyou2525@163.com刪除。