矩陣論 - 7 - 求解Ax=0：主變量、特解

求解Ax=0：主變量、特解

求零空間(Nullspace)

矩陣 \(A\) 的零空間即滿足 \(Ax=0\) 的所有構成 \(x\) 的向量空間。

對於矩陣 \(A\) 進行“行操作”並不會改變 \(Ax=0\) 的解，因此也不會改變零空間。（但是會改變列空間。）因為等號右側的向量\(b=0\)，因此不需要應用增廣矩陣。

通過消元法，將 \(A\) 化為行階梯矩陣 \(U\) ，過程如下：

\[A= \begin{bmatrix} 1 & 2 & 2 & 2\\ 2 & 4 & 6 & 8\\ 3 & 6 & 8 & 10\\ \end{bmatrix} \underrightarrow{消元} \begin{bmatrix} \underline{1} & 2 & 2 & 2\\ 0 & 0 & \underline{2} & 4\\ 0 & 0 & 0 & 0\\ \end{bmatrix} =U \]

矩陣的秩（rank）就是矩陣的主元的個數。

主變量（pivot variable，下划線元素）的個數為2。

矩陣的秩（rank）就是矩陣的主元的個數，即矩陣 \(A\) 和矩陣 \(U\) 的秩（rank）為2，即\(r=2\)。

主變量所在的列為主列（pivot column），其余列為自由列（free column）。

自由列中的變量為自由變量（free variable），自由變量的個數為\(n-r=4-2=2\)。

求特解

當我們將系數矩陣變換為行階梯矩陣 \(U\) 時，就可以用回代求得方程 \(Ux=0\) 的解。

即：

\[\begin{bmatrix} \underline{1} & 2 & 2 & 2\\ 0 & 0 & \underline{2} & 4\\ 0 & 0 & 0 & 0\\ \end{bmatrix} \begin{bmatrix} x_1\\ x_2\\ x_3\\ x_4\\ \end{bmatrix} =\begin{bmatrix} 0\\ 0\\ 0\\ \end{bmatrix}\]

在本例中，包含主元的矩陣第1列和第3列為主元列，而不包含主元的第2列和第4列為自由列。

對自由變量（free variable）x2和x4我們可以進行賦值。(方法是自由變量一次一個1，其他全0)。

\(Ux=0\) 可以表示為(使用矩陣乘法展開)：\(\begin{cases}2x_3+4x_4=0\\ x_1+2x_2+2x_3+2x_4=0\end{cases}\)

令\(x_2=1, x_4=0\)，求得特解：\(x=c_1\begin{bmatrix}-2\\1\\0\\0\\\end{bmatrix}\)；

令\(x_2=0, x_4=1\)，求得特解：\(x=c_2\begin{bmatrix}2\\0\\-2\\1\\\end{bmatrix}\)；

矩陣 \(A\) 的零空間就是這些“特解”向量的線性組合所構成的向量空間,即\(c_1\begin{bmatrix}-2\\1\\0\\0\\\end{bmatrix}+c_2\begin{bmatrix}2\\0\\-2\\1\\\end{bmatrix}\)。

主元列和自由列的一個重要區別就是，自由列可以表示為其左側所有主元列的線性組合，而主元列則不可以。

\[\begin{bmatrix} \underline{*} & * & * & *\\ 0 & 0 & \underline{*} & *\\ 0 & 0 & 0 & \underline{*}\\ \end{bmatrix}\]

行最簡階梯矩陣

可以將 \(U\) 進一步簡化，即將\(U\)矩陣化簡為\(R\)矩陣（Reduced row echelon form），即簡化行階梯形式。

在簡化行階梯形式中，主元上下的元素都是\(0\)：

\[U=\begin{bmatrix}\underline{1} & 2 & 2 & 2\\0 & 0 & \underline{2} & 4\\0 & 0 & 0 & 0\\\end{bmatrix}\underrightarrow{化簡}\begin{bmatrix}\underline{1} & 2 & 0 & -2\\0 & 0 & \underline{1} & 2\\0 & 0 & 0 & 0\\\end{bmatrix}=R \]

將\(R\)矩陣中的主變量放在一起，自由變量放在一起（列交換），得到:

\[R= \begin{bmatrix} \underline{1} & 2 & 0 & -2\\ 0 & 0 & \underline{1} & 2\\ 0 & 0 & 0 & 0\\ \end{bmatrix} \underrightarrow{列交換} \left[ \begin{array}{c c | c c} 1 & 0 & 2 & -2\\ 0 & 1 & 0 & 2\\ \hline 0 & 0 & 0 & 0\\ \end{array} \right] = \begin{bmatrix} I & F \\ 0 & 0 \\ \end{bmatrix} \textrm{，其中}I\textrm{為單位矩陣，}F\textrm{為自由變量組成的矩陣} \]

計算零空間矩陣\(N\)（nullspace matrix），其列為特解，有\(RN=0\)。

原方程 \(Ax=0\) 變為求解 \(R\) 的主元行乘以 \(x\)，\(\begin{bmatrix} I & F \\ \end{bmatrix} \begin{bmatrix} x_{pivot} \\ x_{free} \\ \end{bmatrix}=0\)。

將 \(Ax=0\) 的特解作為列向量寫成一個矩陣 \(N\)，即零空間矩陣,\(N=\begin{bmatrix} \;\\ I\\ \end{bmatrix}\)。

從矩陣分塊乘法運算可知零空間矩陣上半部分為 \(-F\) ，即 \(N\) 最終形式為\(N=\begin{bmatrix} -F \\ I \\ \end{bmatrix}\)

對於上述例子：

\[R=\begin{bmatrix}\underline{1} & 2 & 0 & -2\\0 & 0 & \underline{1} & 2\\0 & 0 & 0 & 0\\\end{bmatrix}\underrightarrow{列交換}\left[\begin{array}{c c | c c}1 & 0 & 2 & -2\\0 & 1 & 0 & 2\\\hline0 & 0 & 0 & 0\\\end{array}\right]=\begin{bmatrix}I & F \\0 & 0 \\\end{bmatrix}\textrm{，其中}I\textrm{為單位矩陣，}F\textrm{為自由變量組成的矩陣} \]

從上面推論可得：\(N=\begin{bmatrix}-F \\I \\\end{bmatrix}=\begin{bmatrix}-2 & 2\\ 0 & -2\\1 & 0\\0 & 1\end{bmatrix}\)

對於矩陣 \(R\) 而言，求零空間特解就變得非常簡單，只需要將消元的到的 \(F\) 部分拼接上單位陣就可以得到所有的通解。注意如果在變換出 \(R\) 左上角的單位陣的過程中采用了列交換，則最后的解要完成逆變換。

進行逆變換(三行和二行交換)，可得\(N=\begin{bmatrix} -F \\ I \\ \end{bmatrix}=\begin{bmatrix}-2 & 2\\ 0 & -2\\1 & 0\\0 & 1\end{bmatrix}\underrightarrow{行交換}\begin{bmatrix}-2 & 2\\ 1 & 0\\0 & -2\\0 & 1\end{bmatrix}\)，與上面求得的兩個\(x\)特解一致。

總結

1. \(A\) 的零空間是 \(Ax=0\) 中 \(x\) 的解組成的集合；

2. 解法1：

   • 消元，將矩陣化為行階梯矩陣 \(U\)，得出自由列個數
   • 自由列一個個賦1，其他皆0，求解方程，得出自由列個數個特解
   • 特解的線性組合就是 \(A\) 的零空間

3. 解法2：

   • 消元，將矩陣化為行最簡階梯矩陣 \(R\)
   • 通過某些列變化將 \(R\) 化成如下形式：\(R=\begin{bmatrix}I & F \\0 & 0 \\\end{bmatrix}\textrm{，其中}I\textrm{為單位矩陣，}F\textrm{為自由變量組成的矩陣}\)
   • 得到解：\(N=\begin{bmatrix} -F \\ I \\ \end{bmatrix}\)
   • 若進行了列變化，則最后的解要完成逆變換

reference

[1] textbook

[2] mit18.06學習筆記-0

[3] mit18.06學習筆記-1