線性代數復習筆記

線性代數筆記

目錄

• 線性代數筆記
  • 基向量 basis vectors
  • 線性變換 Linear transformation
  • 行列式 determinant
  • 矩陣運算
    • 奇異矩陣
    • 伴隨矩陣
    • 逆矩陣
    • 正交矩陣
    • 不滿足的運算定律
  • 矩陣初等變換
  • 秩 Rank
    • 點積
    • 叉積
    • 混合積
  • 基變換
    • 過渡矩陣
  • 特征值Eigenvalue、特征向量Eigenvector
    • 重要性質
    • 相似矩陣
    • 正交矩陣
  • 抽象向量空間
  • 克萊姆法則Cramer's Rule
  • 方程組解的判別
    • 非齊次線性方程組Ax=b
    • 齊次線性方程組Ax=0
  • 二次型
  • 等價、相似、合同、正交相似
    • 三者之間關系判定
    • 可對角化矩陣
  • 注意的問題

一些參考來源：

• 武漢大學黃正華老師個人主頁 有很多數學相關的有用資料
• 3blue1brown B站賬號 數形結合，以可視化的方式展現公式

基向量 basis vectors

v與w全部線性組合構成的向量集合稱為“張成的空間”

\[a\vec{v}+b\vec{w} \]

有多個向量，並且可以移除其中一個而不減小張成的空間，稱其為線性相關（Linearly dependent）的

向量空間的一組基是張成該空間的一個線性無關向量集

線性變換 Linear transformation

保持網格線平行且等距分布

將其看作一種對空間擠壓變換的函數

• 直線依舊是直線\(L(v+w)=L(v)+L(w)\)
• 原點保持固定\(L(cv)=cL(v)\)

\[\left[ \begin{matrix} a & b \\ c & d \\ \end{matrix} \right] \left[ \begin{matrix} x \\ y \\ \end{matrix} \right] = \left[ \begin{matrix} ax+by \\ cx+dy \\ \end{matrix} \right] \]

兩個矩陣相乘的幾何意義是將兩個線性變換相繼作用，這個乘積需要從右向左讀

直觀表現矩陣乘法具有結合律

\(A(BC)=(AB)C\)

行列式 determinant

對於二維來說，代表線性變換改變面積的比例；對於三維，代表體積的縮放

所以，可以用一個矩陣的行列式是否為0來判斷是否將空間壓縮到更小的維度上

負的行列式表示空間定向（orientation）發生了改變（flipping），二維中用旋轉方向表示，三維中用右手法則表示

n階行列式

范德蒙行列式

行列式性質

1. 行列式轉置后值不變，\(D^T=D\)
2. 行列式A中某行(或列)用同一數k乘,其結果等於kA
3. 互換行列式中兩行，值變為相反數
4. 行列式某行元素全為0，行列式值為0
5. 行列式中兩行成比例，行列式為0
6. 行列式中一行（或列）所有元素乘以一個數后加到另一行（或列），行列式值不變
7. 行列式中一行（或列）可以寫成兩元素相加形式，可以拆分為兩個行列式相加
8. ⼀⾏元素乘以另⼀⾏對應元素的代數余⼦式, 其和為零

矩陣運算

\[A\vec{X}=\vec{V} \]

A代表一個線性變換，使得向量X變換后與V重合

當\(det(A)\ne0\)時，有唯一解，可以通過逆變換(inverse)來找到X

行列式不為零才有逆矩陣

\[A^{-1}A\vec{X}=A^{-1}\vec{V}\\ I\vec{X}=A^{-1}\vec{V}\\ \vec{X}=A^{-1}\vec{V} \]

當\(det(A)=0\)時，可能存在解

奇異矩陣

行列式等於0的方陣

伴隨矩陣

由行列式|A|的代數余子式\(A_{ij}\)所構成的矩陣

可得以下重要公式：

\[\begin{align} AA^*=A^*A&=|A|I \\ |A| \ne 0 \rightarrow A^{-1}&=\frac{1}{|A|}A^* \\ &=\frac{1}{ad-bc} \left( \begin{matrix} d & -b \\ -c & a \end{matrix} \right) \end{align} \]

逆矩陣

正交矩陣

\[A^TA=I \]

A為n階正交矩陣的充要條件是：A的列向量組為\(\R^n\)的一組標准正交基

定理有：

不滿足的運算定律

1. 交換律
   • \(AB=BA\)一般不成立，成立時稱A B可交換
   • 提取公因子時要分清是從左側還是右側提出\(AB-B=(A-I)B\)
   • 
2. 消去律
   • 當 \(AB = 0\) 時, 不能推出 A = 0 或 B = 0.
   • 當 \(AB = AC\), 且 \(A \ne 0\) 時, 不能得到 B = C.
   • 注意, 當 A 可逆時, 消去律是成⽴的

其他重要公式

矩陣初等變換

遵循左乘行變，右乘列變的特點

秩 Rank

列空間（Column space）的維數。線是一維，面是二維，列空間就是矩陣的列所張成的空間

秩與列數相等時稱為滿秩（Full rank）

零向量一定包含在列空間中，因為線性變換零向量的位置不變

變換后落在零向量上的向量構成“零空間”（Null space）或“核”（Kernel）

證明\(r(A+B)\le r(A)+r(B)\)

證明\(r(AB)\le min\{r(A),r(B)\}\)

非方陣

例如2*3矩陣，將3維空間的向量映射到2維空間中（本來每個向量使用三維坐標表示的，變成了二維坐標表示）

點積

\[\vec{a}\cdot\vec{b}=cos\theta\cdot|\vec{a}| |\vec{b}| \]

投影與某個二維向量相關，投影就是將其中一個向量轉化為線性變換

叉積

基向量的順序就是定向的基礎，其值物理意義是構成的平行四邊形的面積，即行列式的值. 但叉積的結果是一個與源向量垂直的向量

\[\hat{i} \times \hat{j}=1 \\ \hat{j} \times \hat{i}=-1 \]

右手法則

物理意義

叉積計算公式

根據點積的幾何意義和行列式的幾何意義，給定v，w，且（x,y,z）是基向量，可以求得p，即垂直v,w，長度為構成的平行四邊形面積。結果意義為平行六面體的體積。

混合積

\[\vec{a} \cdot (\vec{b}\times\vec{c}) \]

其意義為a,b,c構成的平行六面體的體積

三個非零向量共面的充要條件是其混合積為0

這三個向量具有輪換對稱性

基變換

假設有一個叫jennifer的人使用跟我們不同的基向量（不同的語言），可以用我們的語言來描述她的基向量，得到一個矩陣A(基變換矩陣 change of basis matrix).用她的坐標描述的向量乘該矩陣，得到我們坐標描述的向量（該向量是同一向量，只是基不同），同時可以使用逆矩陣表示相反的過程。

如下形式的公式暗示了一種數學上的轉移作用，中間的矩陣表示你所見的變換，而外側兩個矩陣代表轉移作用，也就是視角上的轉化。矩陣的乘積仍然代表同一個變換，只不過是從其他人的角度來看的

\[A^{-1}MA \\ \overbrace{A^{-1} \underbrace{M \overbrace{A \underbrace{X}_{用他人語言描述的向量x} }^{轉為我們語言描述的向量x} }_{使用我們的矩陣形式的變換x} }^{將變換后的x轉換回他人的語言} \]

過渡矩陣

過渡矩陣是基與基之間的一個可逆線性變換，在一個空間V下可能存在不同的基。假設有2組基分別為A,B。由基A到基B可以表示為\(B=AP\)，過渡矩陣\(P=A^{-1}B\)。它表示的是基與基之間的關系。

設向量在A坐標系下表示為x，在B坐標系下表示為y，有：

\[\begin{align} Ax&=By\\ x&=A^{-1}By\\ x&=Py\\ y&=P^{-1}x \end{align} \]

特征值Eigenvalue、特征向量Eigenvector

在線性變換過程中不離開所張成空間的向量稱為特征向量，每一個特征向量都有一個特征值，用來衡量特征向量在變換中拉伸或壓縮比例的因子。

在3維空間中可以使用特征值為1的特征向量來描述旋轉

$$ (A-\lambda I)\vec{V}=\vec{0} $$ **當且僅當矩陣代表的變換將空間壓縮到更低維度時，才會存時一個非零向量，使得矩陣和它的乘積為零向量，即**$det(A-\lambda I)=0$

不存在實數解時，一般對應於變換中的某種旋轉

k重根特征值所對應的線性無關特征向量的個數l，不一定等於特征值的重數k，事實上，l<=k

對角矩陣（Diagonal matrix）的所有基向量都是特征向量，矩陣的對角元是他們所屬的特征值

特征基（Eigenbasis），矩陣的特征向量作為基

重要性質

跡

矩陣對角元素之和

運算性質

相似矩陣

存在可逆矩陣P，使得\(P^{-1}AP=B\)，稱\(A\sim B\) ，AB相似。兩者有相同的特征值，但不一定有相同特征向量

正交矩陣

抽象向量空間

相當於程序設計中的接口，定義出一系列的規范，只有符合這個規范就是實現了這個接口，就自動具有了這個接口所擁有的特性。只要滿足以上8條公理的東西都可以被稱為向量vector。

克萊姆法則Cramer's Rule

克拉默法則⾯對的線性⽅程組要滿⾜兩個條件:

(1) 未知量個數和⽅程組數相同,

(2) 系數⾏列式 D != 0.

D = 0 是齊次⽅程組有⾮零解的充要條件.

方程組解的判別

非齊次線性方程組Ax=b

• 若\(r(B)=r(A)+1\)，則說明方程出現了矛盾，導致方程組無解（消元后B非零行多與A非零行）
• 若\(r(B)=r(A)\),則方程沒有矛盾，方程有解
  • 當\(r(B)=r(A)=n\)時，沒有自由變量，方程有唯一解
  • 當\(r(B)=r(A)<n\)時，方程有自由變量，有無窮解

齊次線性方程組Ax=0

對 n 元齊次線性⽅程組 Ax = 0, 設 r(A) = r, 則⽅程組 Ax = 0 的基礎解系包含 n − r 個向量

極大無關組

極⼤⽆關組和原向量組是等價的, 是原向量組的簡約, 更是原向量組的 “全權代表”

矩陣等價與向量組等價

1. 向量組等價, 可得矩陣等價; (注意這里所設的兩向量組中向量的個數相 同, 否則兩矩陣的列數不同, 會導致矩陣不是同型矩陣, 就不能得到矩陣等價.)
2. 矩陣等價, 不能得到向量組等價.

二次型

一個二次齊次多項式一般地可以用矩陣表示為

\[f=x^TAx\\ 其中A^T=A \]

只含平方項的二次型，稱為二次型的標准形

如果標准形的系數只在1，-1，0三個數中取值，稱為二次型的規范形

合同矩陣

等價、相似、合同、正交相似

4. 正交相似：若A，B均為n階方陣，存在正交矩陣P，使得\(P^TAP=P^{-1}AP=B\)

三者之間關系判定

可對角化矩陣

如果一個方塊矩陣 A 相似於對角矩陣，也就是說，如果存在一個可逆矩陣 P 使得 \(P^ {−1}AP\) 是對角矩陣，則它就被稱為可對角化的。

可對角化的充要條件：n階矩陣A有n個線性無關的特征向量

注意的問題