列空間、零空間
子空間綜述
向量空間是對於線性運算封閉的向量集合。即對於空間中的任意向量v和w，其和v+w和數乘cv必屬於該空間；換而言之對於任何實數c和d，線性組合cv+dw必屬於該空間。
A vector space is a collection of vectors which is closed under linear combinations. In other words, for any two vectors v and w in the space and any two real numbers c and d, the vector cv + dw is also in the vector space. A subspace is a vector space contained inside a vector space.
子空間是包含於向量空間內的一個向量空間。它是原向量空間的一個子集，而且本身也滿足向量空間的要求。
“子空間”和“子集”的概念有區別：所有元素都在原空間之內就可稱之為子集，但是要滿足對線性運算封閉的子集才能成為子空間。
列空間
矩陣 \(A\) 的列空間\(C(A)\)是其列向量的所有線性組合所構成的空間。
The column space of a matrix A is the vector space made up of all linear combinations of the columns of A.
Q：給定矩陣 \(A\)，對於任意 \(b\) 是否 \(Ax=b\) 都有解？
假設\(A=\begin{bmatrix}1&1&2\\2&1&3\\3&1&4\\4&1&5\end{bmatrix}\)。
顯然並不是所有的\(b\)都能保證\(Ax=b\)有解。
因為它有4個線性方程而只有3個未知數，矩陣 \(A\) 列向量的線性組合無法充滿\(\mathbb{R}^4\)，因此如果 \(b\) 不能被表示為 \(A\) 列向量的線性組合時，方程是無解的。只有當 \(b\) 在矩陣 \(A\) 列空間 \(C(A)\) 里時，\(x\) 才有解。
對於給定的矩陣 \(A\) ，第三個列向量為前兩個列向量之和，所以列向量不是線性無關的，只有2個對張成（span）向量空間有貢獻。矩陣 \(A\) 的列空間\(\mathbb{R}^4\)為內的一個二維子空間。
零空間
矩陣 \(A\) 的零空間\(N(A)\)是指滿足的所\(Ax=0\)有解的集合。
對於給定矩陣\(A=\begin{bmatrix}1&1&2\\2&1&3\\3&1&4\\4&1&5\end{bmatrix}\) ，其列向量含有4個分量，因此列空間是空間 \(\mathbb{R}^4\) 的子空間，\(x\) 為含有3個分量的向量，故矩陣 \(A\) 的零空間是 \(\mathbb{R}^3\) 的子空間。對於mxn矩陣，列空間為 \(\mathbb{R}^m\) 的子空間，零空間為 \(\mathbb{R}^n\) 空間的子空間。
\(A\) 中第三列為前兩列相加，矩陣 \(A\) 右乘 \(x\)，即對 \(A\) 進行列操作，易得\(x\)為\(\begin{bmatrix}1\\1\\-1\end{bmatrix}\)的任意倍。此零空間為 \(\mathbb{R}^3\) 中的一條直線。
Other values of b
更改 \(b\) 值，有如下方程：\(\begin{bmatrix}1&1&2\\2&1&3\\3&1&4\\4&1&5\end{bmatrix}\begin{bmatrix}x_1\\x_2\\x_3\end{bmatrix}=\begin{bmatrix}1\\2\\3\\4\end{bmatrix}\)。
其解集不能構成一個子空間。零向量並不在這個集合內。解集是空間 \(\mathbb{R}^3\) 內過\(\begin{bmatrix}1\\0\\0\end{bmatrix}\)和\(\begin{bmatrix}0\\-1\\1\end{bmatrix}\)的平面，但不過原點\(\begin{bmatrix}0\\0\\0\end{bmatrix}\)，不滿足向量空間需要過原點的性質。
向量空間的一些性質：
- 所有向量空間都必須包含原點（Origin）；
- 向量空間要滿足加法封閉和數乘封閉。
總結
由 \(A\) 的列向量生成的子空間為 \(A\) 的列空間；
\(A\) 的零空間是 \(Ax=0\) 中 \(x\) 的解組成的集合；
\(Ax=b\) 有非零解當且僅當 \(b\) 屬於 \(A\) 的列空間。
reference
[1] textbook
[2] mit18.06學習筆記-0
[3] mit18.06學習筆記-1