線性方程組

線性方程組

Problem

給出一個線性方程組， 有 \(n\) 個未知數和 \(m\) 個方程

\[a_{11}x_1 + a_{12}x_2 + ... + a_{1n}x_n = b_1\\ a_{21}x_1 + a_{22}x_2 + ... + a_{2n}x_n = b_2\\ ...\\ a_{m1}x_1 + a_{m2}x_2 + ... + a_{mn}x_n = b_m \]

對於解該線性方程組，首先構造增廣矩陣，按列分塊：

\[A = \left[ \begin{matrix} a_{11} & a_{12} & ... & a_{1n} & b_{1} \\ a_{21} & a_{22} & ... & a_{2n} & b_{1} \\ ... & ... & ... & ... & ... \\ a_{m1} & a_{m2} & ... & a_{mn} & b_{m} \\ \end{matrix} \right] \tag{5} = [\alpha_1 ~~ \alpha_2 ~~ ... ~~ \alpha_n ~~ \beta] \]

對於該增廣矩陣，我們利用高斯消元進行求解

Review

秩

一個矩陣 \(A\) 的列秩是 \(A\) 的線性無關的縱列的極大數目。類似的，行秩是 \(A\) 的線性無關的橫行的極大數目，矩陣的列秩和行秩總是想等的，因為它們可以簡單的稱作為矩陣 \(A\) 的秩，通常用 \(r(A), rank(A)~~, ~~ rk(A)\) 表示

行列式定義：設矩陣 \(A\) 為 \(m \times n\) 矩陣，若 \(A\) 至少有一個 \(r\) 階非零子式，而其所有 \(r + 1\) 階子式全為零，則稱 \(r\) 為 \(A\) 的秩

奇異

對於一個方程 \(A\) 滿足條件 \(det(A) ≠ 0\) ，則稱 \(A\) 為非奇異方陣，否則稱為奇異矩陣， \(det(A)\) 表示 \(A\) 的行列式不為零

方陣 \(A\) 非奇異與一下論述等價：

• \(A\) 式可逆的
• \(A^TA\) 式可逆的
• \(A\) 的行列式不為 \(0\)
• \(A\) 的秩等於 \(n\) (\(A\) 滿秩)
• \(A\) 的轉置矩陣 \(A^T\) 也是可逆的
• \(A\) 的任意特征值非零
• 存在一個 \(n\) 階方陣 \(B\) 使得 \(AB=BA=I_n\) ($I_n $ 為單位矩陣)

線性相關

在一個向量空間的一組元素中，若沒有向量可用有限個其他向量的線性組合所表示，則稱為線性無關或線性獨立，反之稱為線性相關，例如在三維歐幾里得空間 \(\mathbb{R}^3\) 的三個向量 \((1, 0, 0), (0, 1, 0) 和 （0，0，1）\) 線性無關，但 \((2, -1, 1), (1, 0, 1) 和 (3,-1,2)\) 線性相關，因為第三個式前兩個的和

• 含有零向量的向量組，必定線性相關。

​ 若由向量組 \(a_1, a_2, ...,a_s\)， 其中 \(a_1 = 0\), 則 \(a_1 = 0 · a_2 + ... + 0 · a_s\)

• 含有兩個相等向量的向量組，必定線性相關。

​ 若由向量組 \(a_1, a_2, ...,a_s\)， 其中 \(a_1 = a_2\), 則 \(a_1 = a_2 + 0 ·a_3 + ... + 0 · a_s\)

• 若一向量組相關，則加上任意個向量后，仍然線性相關；即局部線性相關，整體必線性相關。
• 整體線性無關，局部必線性無關。
• 向量個數大於向量維數，則此向量組線性相關。
• 若一向量組線性無關，即使每一向量都在同一位置處增加一分量，仍然線性無關。
• 若一向量組線性相關，即使每一向量都在同一位置處減去一分量，仍然線性相關。
• 若 \(a_1, a_2, ... , a_s\) 線性無關，而\(b, a_1, a_2, ... , a_s\) 線性相關，則 \(b\) 必可由 \(a_1, a_2, ... , a_s\) 線性表示，且表示系數唯一。

基 (basis)

向量空間 \(S\) 中的基首先應該遵循兩個條件：

• 首先基內所有向量線性無關
• 他們可以生成 \(S\)

基的擴張：

一個向量空間的每一組基都是一個極大的線性無關集合，同時也是極小的生成集合。可以證明，如果向量空間擁有一組基，那么每個線性無關的子集都可以擴張成一組基（也稱為基的擴充定理），每個能夠生成整個空間的子集也必然包含一組基

Conclusion

• \(r(A)=r(A|β)=n\)：方程組有唯一解。

• \(r(A)=r(A|β)=p<n\)：則所有這些向量都位於一個 \(n\) 維的線性空間中，可以從矩陣 \(A\) 中找出任意 \(p\) 個線性無關的列向量來構成這個空間中的一組基，由於 \(\beta\) 也在這個空間中，所以 \(\beta\) 能被選定的列向量唯一表示。那為什么有無窮個解呢？在矩陣 \(A\) 中取線性無關的 \(p\) 個向量作為 \(p\) 維空間的基，那剩下的 \(n - p\) 個向量自然可以被選出來的基表示，對應的 \(n - p\) 個未知數稱為自由元，不論剩余向量前面的系數取什么值，這些向量的影響都可以被基取對應系數消去，故解就有無窮個。

• \(r(A)+1=r(A|β)\)：說明 \(β\) 不在矩陣 \(A\) 的列向量構成的線性空間中(封閉性)，故無法被表示，即無解