轉自:http://silencethinking.blog.163.com/blog/static/911490562008928105813169/
AX=B或XA=B
在MATLAB中,求解線性方程組時,主要采用前面章節介紹的除法運算符“/”和“\”。如:
- X=A\B表示求矩陣方程AX=B的解;
- X=B/A表示矩陣方程XA=B的解。
對方程組X=A\B,要求A和B用相同的行數,X和B有相同的列數,它的行數等於矩陣A的列數,方程X=B/A同理。
如果矩陣A不是方陣,其維數是m×n,則有:
- m=n 恰定方程,求解精確解;
- m>n 超定方程,尋求最小二乘解;
- m<n 不定方程,尋求基本解,其中至多有m個非零元素。
針對不同的情況,MATLAB將采用不同的算法來求解。
恰定方程組
恰定方程組由n個未知數的n個方程構成,方程有唯一的一組解,其一般形式可用矩陣,向量寫成如下形式:
Ax=b
其中A是方陣,b是一個列向量;
在線性代數教科書中,最常用的方程組解法有:
- 利用cramer公式來求解法;
- 利用矩陣求逆解法,即x=A-1b;
- 利用gaussian消去法;
- 利用lu法求解。
一般來說,對維數不高,條件數不大的矩陣,上面四種解法所得的結果差別不大。前三種解法的真正意義是在其理論上,而不是實際的數值計算。MATLAB中,出於對算法穩定性的考慮,行列式及逆的計算大都在lu分解的基礎上進行。
在MATLAB中,求解這類方程組的命令十分簡單,直接采用表達式:x=A\b。
在MATLAB的指令解釋器在確認變量A非奇異后,就對它進行lu分解,並最終給出解x;若矩陣A的條件數很大,MATLAB會提醒用戶注意所得解的可靠性。
如果矩陣A是奇異的,則Ax=b的解不存在,或者存在但不唯一;如果矩陣A接近奇異時,MATLAB將給出警告信息;如果發現A是奇異的,則計算結果為inf,並且給出警告信息;如果矩陣A是病態矩陣,也會給出警告信息。
注意:在求解方程時,盡量不要用inv(A)*b命令,而應采用A\b的解法。因為后者的計算速度比前者快、精度高,尤其當矩陣A的維數比較大時。另外,除法命令的適用行較強,對於非方陣A,也能給出最小二乘解。
超定方程組
對於方程組Ax=b,A為n×m矩陣,如果A列滿秩,且n>m。則方程組沒有精確解,此時稱方程組為超定方程組。線性超定方程組經常遇到的問題是數據的曲線擬合。對於超定方程,在MATLAB中,利用左除命令(x=A\b)來尋求它的最小二乘解;還可以用廣義逆來求,即x=pinv(A),所得的解不一定滿足Ax=b,x只是最小二乘意義上的解。左除的方法是建立在奇異值分解基礎之上,由此獲得的解最可靠;廣義逆法是建立在對原超定方程直接進行householder變換的基礎上,其算法可靠性稍遜與奇異值求解,但速度較快;
例 求解超定方程組
A=[2 -1 3;3 1 -5;4 -1 1;1 3 -13]
A=
2 -1 3
3 1 -5
4 -1 1
1 3 -13
b=[3 0 3 -6]’;
rank(A)
ans=
3
x1=A\b
x1=
1.0000
2.0000
1.0000
x2=pinv(A)*b
x2=
1.0000
2.0000
1.0000
A*x1-b
ans=
1.0e-014
-0.0888
-0.0888
-0.1332
0
可見x1並不是方程Ax=b的精確解,用x2=pinv(A)*b所得的解與x1相同。
欠定方程組
欠定方程組未知量個數多於方程個數,但理論上有無窮個解。MATLAB將尋求一個基本解,其中最多只能有m個非零元素。特解由列主元qr分解求得。
例 解欠定方程組
A=[1 -2 1 1;1 -2 1 -1;1 -2 1 5]
A=
1 -2 1 1
1 -2 1 -1
1 -2 1 -1
1 -2 1 5
b=[1 -1 5]’
x1=A\b
Warning:Rank deficient,rank=2 tol=4.6151e-015
x1=
0
-0.0000
0
1.0000
x2=pinv(A)*b
x2=
0
-0.0000
0.0000
1.0000
方程組的非負最小二乘解
在某些條件下,所求的線性方程組的解出現負數是沒有意義的。雖然方程組可以得到精確解,但卻不能取負值解。在這種情況下,其非負最小二乘解比方程的精確解更有意義。在MATLAB中,求非負最小二乘解常用函數nnls,其調用格式為:
- X=nnls(A,b)返回方程Ax=b的最小二乘解,方程的求解過程被限制在x 的條件下;
- X=nnls(A,b,TOL)指定誤差TOL來求解,TOL的默認值為TOL=max(size(A))norm(A,1)eps,矩陣的-1范數越大,求解的誤差越大;
- [X,W]=nnls(A,b) 當x(i)=0時,w(i)<0;當下x(i)>0時,w(i)0,同時返回一個雙向量w。
例 求方程組的非負最小二乘解
A=[3.4336 -0.5238 0.6710
-0.5238 3.2833 -0.7302
0.6710 -0.7302 4.0261];
b=[-1.000 1.5000 2.5000];
[X,W]=nnls(A,b)
X=
0
0.6563
0.6998
W=
-3.6820
-0.0000
-0.0000
x1=A\b
x1=
-0.3569
0.5744
0.7846
A*X-b
ans=
1.1258
0.1437
-0.1616
A*x1-b
ans=
1.0e-0.15
-0.2220
0.4441
0