RE: 簡單線性代數學習筆記 線形代數は基本的な問題である

線性代數學習筆記

---

0 前言與一些注意事項與定義

聽說明天要講擬陣,然后就搞一下線性代數.

大多數內容來自\(wfj\_2048\)的\(ppt\)

在這里先解釋一下左乘和右乘是啥,\(A\)左乘\(B\)就是\(AB\),\(A\)右乘\(B\)就是\(BA\)

線性變換是亂七八糟湊.差不多這么理解即可.

\(\mathbb{R^n}\)表示\(n\)維\(R\)域的空間.\(dim\ X\)表示\(X\)空間的維數.

1 矩陣

1.0 矩陣的基本概念

首先需要了解基本的東西,矩陣.

定義一個矩陣\(A\)有\(m\)行\(n\)列,那么可以寫成:

\[\begin{matrix} A_{1,1}\ A_{1,2}\cdots A_{1,n}\\ A_{2,1}\ A_{2,2}\cdots A_{2,n}\\ \ \ \ \ \ \ \ \vdots \\ A_{m,1}\ A_{m,2}\cdots A_{m,n}\\ \end{matrix} \]

我們還可以定義矩陣的數乘為\(\lambda A\),相當於是給矩陣中所有的元素都乘上一個數字.

然后矩陣有如下性質:

1. 結合率: \(ABC=A(BC)\)
2. 數乘結合律: \(\beta(\lambda A)=\beta\lambda A\)
3. ...(自行百度)

有一些特殊的矩陣,我們稱之為\(I\),\(0\).

• \(I\),單位矩陣,就是對角線全是\(1\),其他位置都是\(0\)的矩陣.
• \(0\),零矩陣,就是所以位置都是\(0\)的矩陣.

1.1 矩陣的運算

加法就是對應位置加,減法就是對應位置減,乘法就是對應位置乘

矩陣的乘法,有如下定義:\(A\)矩陣為\((m,n)\),\(B\)矩陣為\((n,p)\).\(C=A*B\)

1. \(C(i,j)\)為\(A\)的第\(i\)個行向量內積\(B\)的第\(j\)個列向量.
2. \(C\)的第\(i\)行向量又等於\(A\)的第\(i\)行向量*\(B\)。
3. 所以\(C\)的第\(i\)列向量又等於\(A\)*(\(B\)的第\(i\)列向量)。
4. 最難理解的一條:\(C = \sum_{i=1}^n a_i\times b_i\)(\(a_i\)為\(A\)的第\(i\)列形成的矩陣,\(b_i\)為\(B\)的第\(i\)行形成的矩陣,式中\(\times\)為矩陣乘法)

第2,3條直接把矩陣乘法的定義式拆開就是了.

第4條的話,直接把矩陣乘法拆開然后交換一下\(\sum\)就行了.

反正都是暴力拆就對了

1.2 特殊的矩陣變化與矩陣

1.2.1 特殊矩陣

特殊矩陣有倍加矩陣,倍乘矩陣和對換矩陣.

倍加矩陣: P

\[\begin{bmatrix} 1& 0&0&\cdots &0\newline 0& 1& 0&\cdots &0\newline 0& c& 1&\cdots &0\newline &&\vdots\newline 0& 0& 0&\cdots &1\newline \end{bmatrix} \]

然后這個矩陣中第\((i,j)\)個數字為\(c\),主對角線上為\(1\),其他位置都是\(0\).

倍乘矩陣: C

\[\begin{bmatrix} 1& 0& 0\cdots&0\newline 0& c& 0\cdots&0\newline 0& 0& 1\cdots&0\newline &&\vdots\newline 0& 0& 0\cdots&1\newline \end{bmatrix} \]

然后這個矩陣中主對角線上,除一個位置為\(c\),其他位置為\(1\),不在主對角線上的數字都是\(0\).

對換矩陣: E

\[\begin{bmatrix} 1& 0& 0\cdots&0\newline 0& 0& 1\cdots&0\newline 0& 1& 0\cdots&0\newline &&\vdots\newline 0& 0& 0\cdots&1\newline \end{bmatrix} \]

這個矩陣相當於是交換\(I\)矩陣的兩行.

1.2.2 特殊的矩陣變換

考慮上述的特殊矩陣有啥用,特殊矩陣左乘一個矩陣就是做初等行變換,右乘一個矩陣就是做初等列變換.

\(a_i+a_j*c\)就是倍加矩陣\(E(i,j)\)寫一個\(c\).

倍乘矩陣\(C(i,i)\)為\(c\)表示把第\(i\)行乘\(c\).

對換矩陣就是交換.

1.3 逆矩陣

對於方陣而言,存在\(AB=I\),稱\(B\)為\(A\)的逆矩陣,記做\(A^{-1}\),\(A^{-1}A=AA^{-1}=I\).

非方陣沒有逆矩陣.

\((AB)^{-1}=B^{-1}A^{-1}\).

證明可以兩邊同時乘\(A,B\).

1. 若\(A\)可逆, 且\(A\vec x=\vec b\),則 \(\vec x=A^{-1} \vec b\)。故對任意\(\vec b\),方程總有唯一解。
2. 對於\(\vec b = \vec 0\),方程只有零解。
3. 若\(A\)可逆,則\(A\)總能通過初等行變換變為單位陣,可結合高斯約旦消元理解.
4. 矩陣可逆,當且僅當它消元以后有\(n\)個主元,滿秩即可逆(滿秩陣和可逆陣互為充要條件).

初等行變換不改變矩陣的可逆性,且若\(A,B\)可逆,\(AB\)可逆.

1.4 轉置矩陣

矩陣\(A\)的轉置為\(A^T\),定義為\(A^T(i,j)=A(j,i)\)

\((AB)^T=B^TA^T\),這個比較顯然.

\(A^{-1^T}=A^{T^{-1}}\)

這個證明考慮將\(A=A,B=A^{-1}\)帶入\((AB)^T=B^TA^T\),那么有

\[\begin{align} (AA^{-1})^T&=(A^{-1})^TA^T\\ I^T&=A^{-1^T}A^T\\ I&=A^{-1^T}A^T\\ A^{T^{-1}}&=A^{-1^T} \end{align} \]

簡單證明即可.

1. \(\vec x\cdot \vec y=\vec x^T\vec y\)左邊是內積,右邊是矩陣乘法。重點注意這個形式,在線代的理解與證明中非常有用。

   定義:對於\(n\)階方陣,若\(A=A^T\),則\(A\)為對稱陣;若\(A=−A^T\),則\(A\)為反對稱陣。

2. 任一方陣都能唯一地表示成一個對稱陣與一個反對稱陣之和.證明構造即可,類似高數上奇函數偶函數那個證明過程.

3. 反對稱陣的對角元均為0.這個證明直接參照定義即可.

4. \(AA^T\)以及\(A^TA\)都是對稱陣,這個也是根據定義證明.

2 向量空間

2.1 向量空間(線性空間)

若存在一個集合\(V\)與域\(P\),使得

1. \(V\)中有加法,對應唯一的和.
2. \(V\)中有數量乘,對應唯一的乘積.
3. 加法與數乘滿足如下八條性質:

那么稱\(V\)為\(P\)上的一個向量空間.

第3條即滿足加有交換律,結合律,與乘有分配率,有0元,有負元(相反數),有單位元,數乘有結合律,分配率.

2.2 子空間

線性空間\(V\)的一個子集\(W\),滿足\(W\)中存在零向量,W對加法和數乘封閉,則稱\(W\)為\(V\)的子空間。顯然子空間也是線性空間。

封閉的意思就是保證乘完后還在\(W\)內.

對於一個\(A(m\ by \ n)\),那么有:

1. 行空間:矩陣\(A\)的行張成的空間,記為\(C(A^T)\).通俗來說就是\(A\)的行向量線性變換組成的空間.
2. 列空間:矩陣\(A\)的列張成的空間,記為\(C(A)\).通俗來說就是\(A\)的列向量線性變換組成的空間.
3. (右)零空間:滿足\(A\vec x=\vec 0\)的所有解張成的空間.
4. 左零空間:滿足\(A^T\vec x=\vec 0\)的所有解張成的空間.
5. 行空間和零空間為\(\mathbb{R^m}\) 的子空間,列空間和左零空間為\(\mathbb{R^n}\)的子空間。
6. 若\(A\vec x=\vec b\)有解,則\(\vec b \in C(A)\);若\(A^T\vec x=\vec b\)有解,則\(b\in C(A^T )\).這個證明的話考慮解相當於是列空間的線性變換.

3 線性...

3.1 線性相關與線性無關

若\(k_1\vec v_1+k_2\vec v_2+...+k_n\vec v_n=\vec 0\)的解當且僅當\(\forall k_i=0\),那么這些向量線性無關,否則稱它們線性相關.

若一組向量線性無關,且能表示出一個線性空間的所有向量,那么這組向量就稱為這個線性空間的一組基。

1. 若一組向量中存在一個向量,其能被其他向量線性表出,則這組向量線性相關.這個可以通過定義證明.

2. 一個線性空間中任意一組基的向量個數相等.不妨令最小基向量個數為\(a\),那么考慮若增加一個向量\(\vec x\),這個向量一定能夠被之前的向量線性表出,與線性無關矛盾.

3. 一個線性空間的維數為該空間任意一組基所含有的向量個數.感性理解即可.

3.2 線性基

就提兩句話:

1. 線性基中一個數能有\(2^{n-k}\)中表示方法,其中\(n\)是個數,\(k\)是線性基中的個數.
2. 線性基是一個只有\(0,1\)元素的線性空間.

4 解方程

4.1 解\(A\vec x=\vec 0\)

4.1.0 定義

首先定義行階梯形矩陣\(U\): \(\text{Upper Triangular Matrix}\).

1. 每個階梯只有一行,即絕無可能一下子存在中間有零行.
2. 元素不全為零的行(非零行)的第一個非零元素所在列的下標隨着行標的增大而嚴格增大(列標一定不小於行標).
3. 元素全為零的行(如果有的話)必在矩陣的最下面幾行.

簡化行階梯形矩陣\(R = rref(A)\)

1. 非零行的第一個非零元素全是1.
2. 且非零行的第一個元素1所在列的其余元素全為零

來一個練手題,將下面的矩陣化成簡化行階梯形矩陣:

\[\begin{bmatrix} 1& 0& 2& 0& 4\newline 1& 1& 5& 0& 9\newline 3& 1 & 9& 1& 23\newline 1& 1 & 5& 1& 15\newline \end{bmatrix} \]

答案:

\[\begin{bmatrix} 1& 0& 2& 0& 4\newline 0& 1&3& 0& 5\newline 0& 0& 0& 1& 6\newline 0& 0& 0& 0& 0\newline \end{bmatrix} \]

4.1.1 正言

\(N(A)=N(U)=N(R)\),因為初等行變換不改變矩陣零元的情況.

解\(A\vec x=\vec 0\),先將\(A\)化為\(rref(A)\).

可以發現,所有非主元都能自由取值。那么我們的解向量顯然由\(n\)-主元數個線性無關的向量組成。

故\(A \vec x=\vec 0\)的通解為這些向量的線性組合。所以\(dim\ N(A)=n-\)主元個數.同時可以發現,非主元所在的列是其前面的列的線性組合,故\(dim\ C(A) =\)主元個數.

故:\(dim\ N(A) +dim\ C(A) = n\)。

顯然\(rref(A)\)的非零行數對應着\(C(A^T)\)的維數.可以發現其非零行數等於主元個數,故\(dim\ C(A^T)=dim\ C(A)\).

4.2 秩

稱一個矩陣的主元個數為它的秩,記為\(r(A)\).

1. \(r(A) = dim\ C(A) = dim\ C(A^T) = r(A^T), r(A) \le min(m, n)\).
2. \(r(AB) \le min(r(A), r(B))\).
3. 矩陣左乘或右乘一個可逆陣不改變秩.
4. A為\(m\times n\)矩陣,B為\(n\times p\)矩陣,則\(r(AB) \ge r(A) + r(B) − n\).老鄔都沒有證,我怎么會證.
5. 滿秩方陣可逆(之前提過).

考慮第2條性質的證明:

首先證明\(r(AB)\le r(B)\).

\[AB=\begin{bmatrix}Ab_1,Ab_2,...,Ab_p\end{bmatrix} \]

考慮這是\(B\)的列向量的空間組合,那么顯然基的大小不會變大.

又因為\(r(A)=dim\ C(A)\),所以\(r(AB)\le r(B)\).

基本相同的道理可以證明\(r(AB) \le r(A)\),所以\(r(AB) \le \min(r(A),r(B))\).

4.3 解\(A\vec x=\vec b\)

解\(A\vec x=\vec b\),先將\(A\)化為\(U\),同時\(\vec b\)進行同樣的初等行變換,然后判斷是否有解.

判斷有解就是類似判斷一元一次方程的解一樣.

然后再化為\(rref(A)\),此時令非主元都為\(0\),可以直接得到一個特解.

然后再求出\(A\vec x=\vec 0\)的通解。那么它的解可表示為特解+通解的線性組合.

1. \(r(A)=m\)的矩陣稱為行滿秩矩陣,該矩陣\(C(A) = \mathbb{R^m}\).易證.
2. \(r(A)=n\)的矩陣稱為列滿秩矩陣,該矩陣\(N(A) = {\vec 0}\).易證.

至此,線代基礎告一段落,行列式為下一部分內容

抱歉它鴿了.