最小二乘解法

（一）線性最小二乘（線性方程組的求解方法）     http://www.cnblogs.com/leexiaoming/p/7224781.html

主要包括以下內容：

[1]最小二乘問題的定義

[2]非其次方程(Ax=b)求解方法：

• 正規方程求解
• 喬姆斯基分解法求解  
  
• QR分解法求解
• 奇異值分解法求解（SVD）

[3]齊次方程(Ax=0)求解

（二） 非線性最小二乘    http://www.cnblogs.com/leexiaoming/p/7257198.html

通過下降法和信任區域法引出高斯牛頓和LM兩種常用的非線性優化方法。博客中主要內容為：

[1]非線性最小二乘介紹；

[2]下降法相關理論(Desent Method)

[3]信任區域理論（Trust Region Methods）;

[4]非線性最小二乘求解方法

• 高斯牛頓
• Levenberg-Marquardt Method(LM）