IRLS(迭代加權最小二乘)

本文轉載自查看原文 2015-03-27 21:14 6194 IRLS/ mathmatical model

IRLS用於解決這種目標函數的優化問題（實際上是用2范數來近似替代p范數，特殊的如1范數）。

可將其等價變形為加權的線性最小二乘問題：

其中W（t）可看成對角矩陣，每步的w可用下面的序列代替

$w_i^{(0)} = 1$

$w_i^{(t)} = \big|y_i - X_i \boldsymbol \beta ^{(t)} \big|^{p-2}.$

如果 p=1,則將w(t)換為這種形式

$w_i^{(t)} = \frac{1}{\big|y_i - X_i \boldsymbol \beta ^{(t)} \big|}.$

有時為了保證分母不為零，加上了一個比較項（ $w_i^{(t)} = \frac{1}{\text{max}(\delta, \big|y_i - X_i \boldsymbol \beta ^{(t)} \big|)}.$ ）

本站轉載的文章為個人學習借鑒使用，本站對版權不負任何法律責任。如果侵犯了您的隱私權益，請聯系本站郵箱yoyou2525@163.com刪除。

猜您在找 邏輯斯特回歸(logistic regression)的迭代變權最小平方差算法(IRLS) 非線性最小二乘參數平差迭代算法最小二乘法最小二乘法總體最小二乘（TLS）最小二乘法最小二乘擬合均值和最小二乘法最小二乘法思想最小二乘擬合（scipy實現）