線代自學筆記


QwQ……不知不覺這么久沒寫過博客了

感覺自己線代好菜啊……准備這些天去聽聽吉爾伯特爺爺的公開課,好好自學一下

大概看了看時間安排,感覺一天兩節課正好夠

為了方便督促自己,每天把筆記貼在這里好了


1.方程組的幾何解釋

每一個\(n\)元線性方程組都可以用矩陣表示。除此之外還可以對方程組做以下解釋:

行圖像:每個方程的解都可以表示為\(n\)維空間內的一個超平面,所有超平面的交就是整個方程組的解。(對於系數矩陣可逆的情況,所有超平面的交應當恰好是一個點。)

列圖像:把方程組的每一列都看成一個列向量,那么方程組就可以看成\(n\)個列向量線性組合形成對應的常數向量。方程組的解代表每個列向量對應的系數。

在不考慮求解方程組時,列圖像的思考方向還會產生另一個問題:列向量的所有線性組合能否充滿整個\(n\)維空間?

求解方程組的系統方法:消元法


2.矩陣消元

對於方程組\(Ax=b\),可以用一系列初等變換將\(A\)變為上三角矩陣\(U\),之后直接倒序回代即可得到整個方程組的解。通常稱為高斯消元(Gauss Elimination)。

主元(pivot)不能為0。為了找到主元,可能還需要做一些行交換。

行列式等於主元之積

如果某一次無法找到任何主元,則說明此方程組無解或解不唯一,同時也說明\(A\)是奇異矩陣。

一個矩陣左乘一個行向量可以得到矩陣的行向量的一個線性組合。推廣到多行的情況,發現高斯消元過程中的行變換可以用左乘一個初等矩陣表示。

(初等矩陣(Elementary Matrix):單位矩陣經過一次初等變換后得到的矩陣)

例如令一個3*3矩陣的第二行減去第一行的3倍,只需令原矩陣左乘初等矩陣\(\left[\matrix{1&0&0\\-3&1&0\\0&0&1}\right]\)

令原矩陣依次左乘高斯消元過程中各次變換對應的初等矩陣,即可得到對應的上三角矩陣\(U\)。令\(T\)表示所有初等矩陣的乘積,則有\(TA=U\)

更進一步地,如果高斯消元直接得到了單位矩陣\(E\),那么根據之前的結論,就會有\(TA=E\),也就是\(T=A^{-1}\)(這個結論可以用來簡單地解釋高斯消元求逆矩陣的原理。)


第三課先咕一會QwQ


4. A的LU分解

\(LU\)分解:對於一個矩陣\(A\),尋找下三角矩陣\(L\)與上三角矩陣\(U\)滿足\(A=LU\)

事實上還有\(LDU\)分解:\(A=LDU\)\(D\)表示對角矩陣)

仍然考慮消元法,令\(T\)表示所有單位矩陣的乘積,則有\(TA=U\;\Rightarrow\;A=LU\)

實際上確實可以取\(L=T^{-1}\),因為組成\(T\)的每個初等矩陣的逆仍然是下三角矩陣。

如果不存在行交換操作,可以直接把消元乘數寫進\(L\)中,因為倒序相乘的過程中非對角線元素不會互相影響。

朴素的高斯消元和高斯-約當消元都需要\(\Theta(n^3)\)次操作。(大約是\(\frac{n^3}3\)

如果能事先處理出\(A=LU\),就可以用\(\Theta(n^2)\)次操作來處理一個右側向量了。

“轉置與置換(Permutations)”

置換矩陣可以用於進行一次乃至許多次行互換。(事實上它也被譯作排列矩陣)

置換矩陣的逆,兩個置換矩陣的乘積仍然是置換矩陣(顯然)

Group

事實上,置換矩陣的逆就是它的轉置。


5. 轉置-置換-向量空間R

置換矩陣(Permutation Matrix)是用於進行行互換的矩陣

如上所述,對一個可逆矩陣進行消元時,如果遇到了主元為0的情況,就需要進行行互換才能繼續下去。

(在數值計算時,特別小的非零主元也會對數值穩定性產生負面影響,這時也需要進行行互換操作來保證數值穩定性。)

\(LU\)分解時,對於需要進行行變換的情況,可以記錄下過程中對\(A\)進行的行交換,這時\(A=LU\)也就變成了\(PA=LU\)(這個形式對任意\(A\)都成立;這是\(LU\)分解的一般形式。)

置換矩陣是行重新排列了的單位矩陣。(單位矩陣當然也是一個置換矩陣)

置換矩陣的一些很顯然的性質:

  • 每一個\(n\)階置換都一一對應一個\(1\)~\(n\)的排列。
  • 所有置換矩陣都可逆,並且它的逆就是它的轉置。(\(P^{-1}=P^T\)
    • p.s.滿足\(AA^T=E\)(即\(A^{-1}=A^T\))的矩陣並不一定是置換矩陣,在很久之后會再討論它們。(咕咕咕
  • 置換矩陣的行列式只可能是\(\pm 1\),更具體地說是\((-1)^{排列的逆序對數}\)

轉置:\(A^T\)即為\(A\)翻轉后的矩陣,即\(a^T_{ij}=a_{ji}\)

一個\(n\times m\)矩陣的轉置是一個\(m\times n\)的矩陣。

對稱矩陣(Symmetric Matrix):顧名思義,滿足\(A^T=A\)的矩陣。

性質:\(\forall A\)(甚至不需要是方陣),\(AA^T\)一定是對稱矩陣。

(證明很簡單:\(\left(AA^T\right)^T = \left(A^T\right)^T A^T=AA^T\)


向量空間部分待填QwQ


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM