向量的線性相關、矩陣的秩總結


一些雜談(可以不看)

這次嘗試使用了MD記筆記。我這人真的挺奇怪,對着電腦記筆記比對着紙筆更專注。。。希望期末線代高數大物不會拋棄我。。。

以下是正文:


本文綜合了網絡各處的大佬的想法,綜合總結成了筆記,僅作個人學習用。如我的行為如果有冒犯到您,請聯系我,我將立即修改或刪除。

前置概念

向量組和向量組的線性表示

如果向量組\(B:\beta_1,\beta_2...\beta_q\)中的每個向量都可由向量組\(A:\alpha_1,\alpha_2...\alpha_n\)線性表示,則稱向量組B可由向量組A線性表示。(也稱為兩個向量組等價

假設\(B\)\(A\)表示:

$\left\{\begin{matrix} \beta = c_{11}\alpha_1+c_{21}\alpha_2+\cdots+c_{p1}\alpha_p\\ \beta = c_{12}\alpha_1+c_{22}\alpha_2+\cdots+c_{p2}\alpha_p\\ \cdots \\ \beta = c_{13}\alpha_1+c_{23}\alpha_2+\cdots+c_{p3}\alpha_p \end{matrix}\right.$

觀察可知:一個向量組表示另一向量組就是矩陣乘法的關系。因此我們改寫為矩陣形式:

$\begin{bmatrix}\beta_1 ,\beta_2, \cdots ,\beta_3 \end{bmatrix}= \begin{bmatrix}\alpha_1 ,\alpha_2, \cdots ,\alpha_3 \end{bmatrix} \begin{bmatrix} c_{11} & c_{12} & \cdots &c_{1q} \\ c_{21} & c_{22} & \cdots &c_{2q} \\ \vdots & \vdots & &\vdots \\ c_{p1} & c_{p2} & \cdots &c_{pq} \end{bmatrix}_{p\times q}$

即:\(B=A\times C\)系數矩陣。

性質

若向量組\(\alpha_1,\alpha_2,\cdots,\alpha_s\)可被向量組\(\beta_1,\beta_2,\cdots,\beta_t\)線性表示,則:

$R(\alpha_1,\alpha_2,\cdots,\alpha_s)\le R(\beta_1,\beta_2,\cdots,\beta_t)$

這里需要用到秩的概念,建議看完下面再來這里。

線性相關

定義

如果一組向量中至少有一個是多余的,沒有對張成空間作出任何貢獻,你有多個向量,並且可以移除其中一個而不減少張成的空間,稱線性相關。

對於一個二維空間,只需要任意兩個不共線的非零向量即可張成整個空間。此時稱這兩個向量線性無關

假如此刻再次加入任意一個屬於該空間的向量,這個新的向量對構成此空間沒有任何作用(刪掉它不影響空間的形成),則現在稱這三個向量線性相關。此向量便是冗余的

線性無關也可理解為:在張成的最大空間上,每個維度有且只有一個支撐向量的向量組。

另一種定義(百度百科、書本)

在向量空間V的一組向量\(a_1,a_2...a_m\),如果存在不全為零的數\(k_1, k_2,...,k_m\),使:

$k_1a_1+k_2a_2+...+k_ma_m=0$
那么稱向量組A是線性相關的。

這個概念不夠直觀,但是 可以用來計算、判斷。

極大無關組(極大線性無關向量組)

記得前文提到的一組有冗余向量的向量組嗎?在這一組向量組中取一部分的向量,讓這一部分向量不僅線性無關,並且不能再加入更多向量繼續保持線性無關,那么這一組向量就是原向量組的極大無關組。因此:向量組與它的極大無關組等價

也就是說,當我們刪除一個向量組的所有冗余向量后,剩下的就是原向量組的極大無關組。

極大無關組可能不唯一,但其包含的向量數一定唯一。

線性組合

\(n\)個向量\(\alpha\)(的倍數)相加形成新的向量\(\beta\)

$\beta = \sum_{i=1}^{n}k_i\alpha_i$

則稱向量\(\beta\)是向量組\(\alpha_i\)的一個線性組合,向量\(\beta\)可由向量組\(\alpha_i\)線性表示

理解線性相關和線性表示的關系

一組線性相關的向量組,其中必定有向量是其他向量的線性組合

若最大空間的子空間擁有冗余向量(可以找到線性組合),則向量組線性相關。

正交向量組

正交:垂直;
兩兩正交的向量組被稱為正交向量組
若都為單位向量,則被稱為規范正交向量組

Schmidt正交化

updating

線性相關的簡單性質

  1. 正交向量組線性無關;

  2. 含零向量的向量組線性相關;

  3. 向量組線性相關 \(\Leftrightarrow\) 向量組中至少有一個向量是冗余的 \(\Rightarrow\) \(n+1\)\(n\)維向量總是線性相關。個數大於維數必相關

不太直觀的性質

  1. 如果向量組\([a_1,a_2,a_3...a_n]\)線性無關,向量組\([a_1,a_2,a_3...a_n,b]\)線性相關,那么:
    向量\(b\)可由向量組\([a_1,a_2,a_3...a_n]\)線性表示,且表達式的系數唯一確定

    證明?不想看書了,教材寫得好差,有時間再補上吧。。。

  2. 線性無關向量組的加長向量組仍然線性無關。

    //但是什么是加長向量組?//
    假如二維向量\(a(x,y)\)增加了一個分量(維度),變成了\(a(x,y,z)\),這個向量就加長了。假如向量組里的每一個向量都加長了,就形成了加長向量組。
    可以想象平面內的兩個向量同時向第三維增加一個分量的情況。兩個向量雖然在三維空間里面形成了一個新的平面,但仍未升維,兩個向量不可能憑空多出一個維度,也不會因為到了新的平面而平白無故共線。

    狗嘴里吐不出象牙。

矩陣的秩

通俗理解

矩陣的秩,代表了某個方程組(向量組)的有效方程個數。

在對方程組(系數矩陣)進行化簡(階梯矩陣)之后,會發現有的矩陣表面看上去“滿滿當當”,實際上有好多沒有起到作用的\(0\)行!!

比如對於矩陣\(A\)

$\begin{bmatrix}1&1&2&3\\1&-1&4&1\\1&2&1&4\\1&1&2&3\end{bmatrix}\Rightarrow \begin{bmatrix}1&0&3&2\\0&1&-1&1\\0&0&0&0\\0&0&0&0\end{bmatrix}$

雖然是\(4\)階方陣,但化簡之后非\(0\)行只有\(2\)行,因此其秩為\(2\)

$R(A)=2$

前面的極大無關向量組嗎?它包含的向量個數就是這個向量組的秩

相關概念

如果一個方陣的秩等於其行數,那么稱這種矩陣為滿秩矩陣,否則稱為降秩矩陣

因為一個可逆矩陣的行列式一定不為0,而矩陣的秩為非零子式的最高階數,所以可逆矩陣一定是滿秩矩陣

假設一個秩不滿的矩陣,對於它最大的滿秩子方陣,我們稱這個子方陣為最高階非0子式。所以上面提到的矩陣\(A\)的最高階非0子式為:

$\begin{bmatrix}1 & 0\\0 & 1\end{bmatrix}$

從線性變換的角度來說,矩陣是對於整個空間的變換。而這個矩陣的秩代表了變換后的空間的維度。

因此,一個矩陣的逆矩陣表示了將扭曲后的空間變回原來樣子的操作

只有在同維度下,可逆才有意義。若空間被降維,信息會丟失,那么就不再能變回以前的空間了。(此處可想像3B1B視頻里面二維空間被壓縮到一維的動畫)

我想再去復習一下3B1B的這個視頻


列空間、行空間復習

這里復習此概念是為了更好地理解矩陣的秩的部分性質。

一般矩陣乘法計算方法:

$\begin{bmatrix}1 &4 \\2 &5 \\3 &6\end{bmatrix} \begin{bmatrix}x_1 \\x_2 \end{bmatrix} =\begin{bmatrix} 1x_1+4x_2 \\ 2x_1+5x_2 \\ 3x_1+6x_2 \end{bmatrix}$

這種以行為主內積運算適合電腦計算,但是不利於理解。

因此我們引入一個更高維度的視角——列向量:

$\begin{bmatrix} {\color{Orange} 1}&{\color{Purple} 4}\\{\color{Orange} 2}&{\color{Purple} 5}\\{\color{Orange} 3}&{\color{Purple} 6}\end{bmatrix} \begin{bmatrix}x_1 \\x_2 \end{bmatrix} =x_1\begin{bmatrix} {\color{Orange} 1}\\{\color{Orange} 2}\\{\color{Orange} 3}\end{bmatrix}+ x_2\begin{bmatrix} {\color{Purple} 4}\\{\color{Purple} 5}\\{\color{Purple} 6}\end{bmatrix}$

img
來源知乎 矩陣乘法核心思想(1):列空間

而在 \(x_1\begin{bmatrix} {\color{Orange} 1}\\{\color{Orange} 2}\\{\color{Orange} 3}\end{bmatrix}+ x_2\begin{bmatrix} {\color{Purple} 4}\\{\color{Purple} 5}\\{\color{Purple} 6}\end{bmatrix}\) 中,任意的\(x_1,x_2\)可以與這兩個向量組合,張成一個空間。這個空間被稱為這兩個列向量所張成(Span)的列空間(Column Space)

因此對應地,我們也有行空間 (Roll Space)存在:

img
來源知乎 矩陣乘法核心思想(2):行空間


矩陣的秩常用結論

  1. \(0\le R_{(A_{m\times n})}\le \min(m,n)\)

  2. \(R_{(A^T)}=R_{(A)}\)

  3. \(R\begin{bmatrix}A&0\\0&B\end{bmatrix}=R\begin{bmatrix}0&A\\B&0\end{bmatrix}=R_{(A)}+R_{(B)}\)

  4. \(R\begin{bmatrix}A&0\\C&B\end{bmatrix}\ge R_{(A)}+R_{(B)}\)

  5. 矩陣乘以可逆矩陣,秩不變。如:\(R_{(B^{-1}AB)}=R_{(A)}\)

  6. \(R_{(A\pm B)}=R_{(A)}+R_{(B)}\)

  7. 重要性質!(西爾維斯特不等式)
    \(A\)\(m\times n\)矩陣,\(B\)\(n\times l\)矩陣(\(A,B\)矩陣可以相乘),則:\(R_{(A)}+R_{(B)}-n\le R_{(AB)}\le \min(R_{(A)},R_{(B)})\)

證明:(證明過程較重要)
設置一個矩陣\(\begin{bmatrix}A&0\\E_n&B\end{bmatrix}\)
可以知道經過初等變換,這個矩陣可以把左上角和右下角變為0:
\(\begin{bmatrix}E_m&-A\\0&E_n\end{bmatrix}\begin{bmatrix}A&0\\E_n&B\end{bmatrix}\begin{bmatrix}E_n&-B\\0&E_l\end{bmatrix} =\begin{bmatrix}0&-AB\\E_n&0\end{bmatrix}\)
to be updated...


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM