本篇为MIT公开课——线性代数 笔记。
这节课开始我们将把重点转向如何在空间中计算出向量，由定义转向算法。
\(Ax=0\)的求解
求解\(Ax=0\) 的算法就是消元。
举例
\[A=\left( \begin{array}{cccc} 1 & 2 & 2 & 2 \\ 2 & 4 & 6 & 8 \\ 3 & 6 & 8 & 10 \\ \end{array} \right) \]
消元
\(E_{21}、E_{31}\) 消元：
主元是第一行第一列的"1",结果为
\[\left( \begin{array}{cccc} 1 & 2 & 2 & 2 \\ 0 & 0 & 2 & 4 \\ 0 & 0 & 2 & 4 \\ \end{array} \right) \]
发现主元2出现0，而且行交换无效，说明：第二列相关于第一列，所以我们不去管第二列，继续找主元2：第二行第三列 "2".
继续消元
\(E_{33}\) 消元，结果为 阶梯形式矩阵 \(U\)
\[\left( \begin{array}{cccc} 1 & 2 & 2 & 2 \\ 0 & 0 & 2 & 4 \\ 0 & 0 & 0 & 0 \\ \end{array} \right)=U \]
消元完后，就变成求解 \(Ux=0\) 。
秩
这个例子中，矩阵的主元的数量只有 \(2\) ,该数字称为矩阵的 “秩”（rank）。 它的意义就是表示主元的个数。
主列和自由列
主列：主元所在的列。其他列称为自由列。
该例子中，主列是列 \(1\) 和列 \(3\).
自由列是 列 \(2\) 和列 \(4\) .
自由列的意思是，可以自由或任意分配数值给对应列的未知数。
我们可以对列二和列四的乘数项 \(x_{2}、x_{4}\) 任意取值。
然后只需要求解 \(x_{1}\) 和 \(x_{3}\).
取值：
\[x=\left( \begin{array}{c} \square \\ 1 \\ \square \\ 0 \\ \end{array} \right) \]
回代和特解
\[x_1+2 x_2+2 x_3+2 x_4=0 \\ 2 x_3+4 x_4=0 \]
可以求得
\[x=\left( \begin{array}{c} -2 \\ 1 \\ 0 \\ 0 \\ \end{array} \right) \]
这是零空间的一个向量，也是\(Ax=0\) 的一个解。
将她乘以任意倍数，就能得到四维空间中一条无限延申的直线。
\[x=c\left( \begin{array}{c} -2 \\ 1 \\ 0 \\ 0 \\ \end{array} \right) \]
但它不是整个零空间，因为 \(x_{2}、x_{4}\) 还可以取其他的值。
取值：
\[x=\left( \begin{array}{c} \square \\ 0 \\ \square \\ 1 \\ \end{array} \right) \]
可以求得另一个零空间中的向量：
\[x=d\left( \begin{array}{c} 2 \\ 0 \\ -2 \\ 1 \\ \end{array} \right) \]
这样我们就得到零空间中的两个向量，下面我们就能求出整个零空间。 \(Ax=0\) 的所有解。
这两个解称为特解，即特定的解。特定在于给自由变量分配特定值。给自由变量分配的是0和1. 每对自由变量都对应着一个特解。
两个特解的所有的线性组合就是整个零空间。即
\[x=c\left( \begin{array}{c} -2 \\ 1 \\ 0 \\ 0 \\ \end{array} \right)+d\left( \begin{array}{c} 2 \\ 0 \\ -2 \\ 1 \\ \end{array} \right) \]
总结
对于\(m*n\) 矩阵，\(n\) 变量，若 秩 \(r=2\)，主变量就有 r 个，自由变量 就有 \(n-r\) 。
\(r\) 个主变量，表示只有 \(r\) 个方程起作用。
剩下的 \(n-r\) 个自由变量可以任意赋值。
简化行阶梯形式
简化行阶梯形式我们称为 \(R\).她是对阶梯形式矩阵 \(U\) 的简化。
\[\left( \begin{array}{cccc} 1 & 2 & 2 & 2 \\ 0 & 0 & 2 & 4 \\ 0 & 0 & 0 & 0 \\ \end{array} \right)=U \]
通过消元我们发现，行三全部是0的出现，是因为，行三是行一和行二的线性组合。消元会把它剔除。
简化的方法就是"向上消元"，让主元上方都是0.
在主元二向上消元
\[\left( \begin{array}{cccc} 1 & 2 & 2 & 2 \\ 0 & 0 & 2 & 4 \\ 0 & 0 & 0 & 0 \\ \end{array} \right)\rightarrow \left( \begin{array}{cccc} 1 & 2 & 0 & -2 \\ 0 & 0 & 2 & 4 \\ 0 & 0 & 0 & 0 \\ \end{array} \right) \]
将结果再除以主元"2",解不变。
因为\(2 x_3+4 x_4=0\)和 \(x_3+2 x_4=0\) 的解是一样的，除以某个倍数解不会变。所以我们可以再次化简，记为矩阵 \(R\)：
\[\left( \begin{array}{cccc} 1 & 2 & 0 & -2 \\ 0 & 0 & 1 & 2 \\ 0 & 0 & 0 & 0 \\ \end{array} \right)=R \]
现在所有主元都是"1"。这就是矩阵 \(A\) 的简化行阶梯形式。她可以通过matlab的 rref 函数得出来。
这样我们就经过 \(\text{Ax}=0\rightarrow \text{Ux}=0\rightarrow \text{Rx}=0\) 的过程。
我们重新进行回代，通过 \(R\) 也可以求解两个特解。
\[x_1+2 x_2-2 x_4=0\\ x_3+2 x_4=0\\ \]
解没有改变。
设想：如果我们把 \(R\) 的主列和自由列各放在一边，即列交换：
\[\left( \begin{array}{cccc} 1 & 0 & 2 & -2 \\ 0 & 1 & 0 & 2 \\ 0 & 0 & 0 & 0 \\ \end{array} \right) \]
左边两列是主列，右边两列就是自由列。
第三行因为是前两行线性组合，不管她。
左边得到一个单位矩阵 \(I\) ,右边自由部分记为 \(F\) .
再看零空间：
\[x=c\left( \begin{array}{c} -2 \\ 1 \\ 0 \\ 0 \\ \end{array} \right)+d\left( \begin{array}{c} 2 \\ 0 \\ -2 \\ 1 \\ \end{array} \right) \]
由于系数矩阵进行列交换，我们需要将她的两个特解行交换。
\[x=c\left( \begin{array}{c} -2 \\ 0 \\ 1 \\ 0 \\ \end{array} \right)+d\left( \begin{array}{c} 2 \\ -2 \\ 0 \\ 1 \\ \end{array} \right) \]
会发现：
\(x_{1}、x_{3}\) 的两个特解上半部分正好是自由部分的相反数。
因为 \(F\) 回代后，需要移动到等式的另一侧，正好就是 \(x_{1}、x_{3}\) 的两个特解。
零空间矩阵
假设方程组已经是 \(rref\) 形式，即
\[R=\left( \begin{array}{cc} I & F \\ 0 & 0 \\ \end{array} \right) \]
\(I\) 为 \(r*r\) 矩阵，于是有 \(r\) 个主行，\(n-r\) 个自由列， 我们要解 \(Rx=0\) .
我们可以构建一个 “零空间矩阵”，记为 \(N\)，她的各列由特解组成。
简化行阶梯形式的目的在于，她可以一次性给出特解，
什么 \(N\) 可以满足\(RN=0\) ，我们将 \(I\) 放在主变量位置，\(-F\) 放在自由变量位置，通过乘法法则，我们就能知道满足。
\[N=\left( \begin{array}{c} -F \\ I \\ \end{array} \right) \]
总结举例
对 \(Ax=0\) 整个算法举例
\[A=\left( \begin{array}{ccc} 1 & 2 & 3 \\ 2 & 4 & 6 \\ 2 & 6 & 8 \\ 2 & 8 & 10 \\ \end{array} \right) \]
他有两个主元，因为第三列是前两列的线性组合。在消元过程中就会体现出哪些是主元行/列，并把相关项剔除。
第一步：向下消元
\(E_{21}、E_{31}、E_{41}\)消元
\[\left( \begin{array}{ccc} 1 & 2 & 3 \\ 2 & 4 & 6 \\ 2 & 6 & 8 \\ 2 & 8 & 10 \\ \end{array} \right)\rightarrow \left( \begin{array}{ccc} 1 & 2 & 3 \\ 0 & 0 & 0 \\ 0 & 2 & 2 \\ 0 & 4 & 4 \\ \end{array} \right) \]
主元2为“0”，发现可以行交换解决：
\[\left( \begin{array}{ccc} 1 & 2 & 3 \\ 0 & 0 & 0 \\ 0 & 2 & 2 \\ 0 & 4 & 4 \\ \end{array} \right)\rightarrow \left( \begin{array}{ccc} 1 & 2 & 3 \\ 0 & 2 & 2 \\ 0 & 0 & 0 \\ 0 & 4 & 4 \\ \end{array} \right) \]
主元2为"2",继续向下消元，\(E_{42}\):
\[\left( \begin{array}{ccc} 1 & 2 & 3 \\ 0 & 2 & 2 \\ 0 & 0 & 0 \\ 0 & 4 & 4 \\ \end{array} \right)\rightarrow \left( \begin{array}{ccc} 1 & 2 & 3 \\ 0 & 2 & 2 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \\ \end{array} \right)=U \]
第二步：特解
秩为2.两个主变量 \(x_{1}、x_{2}\)和一个自由变量 \(x_{3}\)。
为自由变量赋上方便计算的数值，将\(x_{3}\) 取值 为1，因为取值为0求主变量，全部变量都是0，没有意义。
\[x=\left( \begin{array}{c} \square \\ \square \\ 1 \\ \end{array} \right) \]
回代：
\[x_{1}+2x_{2}+3x_{3}=0\\ 2x_{2}+2x_{3}=0 \]
代入，可以求得特解
\[x=\left( \begin{array}{c} -1 \\ -1 \\ 1 \\ \end{array} \right) \]
第三步：零空间
将特解乘以某个倍数，即可得到整个零空间：
\[x=c\left( \begin{array}{c} -1 \\ -1 \\ 1 \\ \end{array} \right) \]
整个零空间是一条直线。
第四步：简化矩阵\(R\)
从最后面主元开始向上消元：
\[\left( \begin{array}{ccc} 1 & 2 & 3 \\ 0 & 2 & 2 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \\ \end{array} \right)\rightarrow \left( \begin{array}{ccc} 1 & 0 & 1 \\ 0 & 2 & 2 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \\ \end{array} \right) \]
行二可以除以主元2继续化简：
\[\left( \begin{array}{ccc} 1 & 0 & 1 \\ 0 & 2 & 2 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \\ \end{array} \right)\rightarrow \left( \begin{array}{ccc} 1 & 0 & 1 \\ 0 & 1 & 1 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \\ \end{array} \right)=R \]
\(R\) 中单位阵 \(I=\left( \begin{array}{cc} 1 & 0 \\ 0 & 1 \\ \end{array} \right)\) ，自由部分 \(F=\left( \begin{array}{c} 1 \\ 1 \\ \end{array} \right)\) .
可以看到 \(x\) 的特解也包含
\(I=\left( \begin{array}{c} 1 \\ \end{array}\right)\),
\(-F=\left( \begin{array}{c} -1 \\ -1 \\ \end{array}\right)\)
零空间矩阵 \(N\) 就是
\[N=\left( \begin{array}{c} -F \\ I \\ \end{array} \right) \]
她是将所有特解作为列的矩阵。
