矩阵分解（三）：三角分解

上(下)三角矩阵：对角线上(下)方的元素全为零，即对\(i<j, a_{ij} = 0\)(\(i>j, a_{ij} = 0\))
单位上(下)三角矩阵：对角线元素全为1的上(下)三角矩阵
定理1(LU分解定理)：设\(A\)是n阶非奇异矩阵，则存在惟一的单位下三角矩阵\(L\)和上三角矩阵\(U\)使得

\[A = LU \tag{1} \]

\({\Longleftrightarrow}\) \(A\)的所有顺序主子式均非零，即

\[\Delta_k = \Lambda \left( \begin{array}{ccc} 1 & \cdots & k \\ 1 & \cdots & k \\ \end{array} \right) \neq 0,\ k = 1, \cdots, n-1 \tag{2}\]

注意到，对于非奇异上三角阵，有：

\[\left( \begin{array}{ccccc} u_{11} & u_{12} & u_{13} & \cdots & u_{1n} \\ 0 & u_{22} & u_{23} & \cdots & u_{2n} \\ & & \ddots & \ddots & \vdots \\ & & 0 & u_{n-1,n-1} & u_{n-1,n} \\ 0 & \cdots & & 0 & u_{nn} \\ \end{array} \right) = \left( \begin{array}{ccccc} u_{11} & u_{12} & u_{13} & \cdots & u_{1n} \\ 0 & u_{22} & u_{23} & \cdots & u_{2n} \\ & & \ddots & \ddots & \vdots \\ & & 0 & u_{n-1,n-1} & u_{n-1,n} \\ 0 & \cdots & & 0 & u_{nn} \\ \end{array} \right) \left( \begin{array}{ccccc} 1 & \frac{u_{12}}{u_{11}} & \frac{u_{13}}{u_{11}} & \cdots & \frac{u_{1n}}{u_{11}} \\ & 1 & \frac{u_{23}}{u_{22}} & \cdots & \frac{u_{2n}}{u_{22}} \\ & & \ddots & \ddots & \vdots \\ & 0 & & 1 & \frac{u_{n-1,n}}{u_{n-1,n-1}} \\ & & & & 1 \\ \end{array} \right) \tag{3} \]

从而有如下结果：
定理2(LDU分解定理)：设\(A\)是n阶非奇异矩阵，则存在惟一的单位下三角矩阵\(L\)，对角矩阵\(D = diag(d_1, d_2, \cdots, d_n)\)和单位上三角矩阵\(U\)使得

\[A = LDU \tag{4} \]

\({\Longleftrightarrow}\) \(A\)的所有顺序主子式均非零，即\(\Delta_k \neq 0 (i = 1, \cdots, n-1)\)，且

\[d_1 = a_{11}, d_k = \frac{\Delta_k}{\Delta_{k-1}},\ k = 2, \cdots, n \tag{5} \]

有时，即使矩阵\(A\)非奇异，也未必可以作\(LU\)分解和\(LDU\)分解，此时，可以适当地改变非奇异矩阵\(A\)的行的次序（左乘一个排列矩阵），使改变后的矩阵可以作\(LU\)分解
定义1：设\(e_i\)是n阶单位矩阵的第\(i\)列\((i = 1, 2, \cdots, n)\)，以\(e_1, e_2, \cdots, e_n\)为列作成的矩阵\([e_{i_1}, e_{i_2}, \cdots, e_{i_n}]\)称为**n阶排列矩阵，其中\(i_1, i_2, \cdots, i_n\)是\(1, 2, \cdots, n\)的一个排列
以排列矩阵\([e_{i_1}, e_{i_2}, \cdots, e_{i_n}]^T\)左乘n阶矩阵\(A\)，就是将\(A\)的行按照\(i_1, i_2, \cdots, i_n\)的次序重排；以排列矩阵\([e_{i_1}, e_{i_2}, \cdots, e_{i_n}]^T\)右乘n阶矩阵\(A\)，就是将\(A\)的列按照\(i_1, i_2, \cdots, i_n\)的次序重排
从而有下面的结果：
定理3：设\(A\)是n阶非奇异矩阵，则存在排列矩阵\(P\)使得

\[PA = L\widetilde{U} = LDU \tag{6} \]

其中\(L\)是单位下三角矩阵，\(\widetilde{U}\)是上三角矩阵，\(U\)是单位上三角矩阵，\(D\)是对角矩阵\

\(LU\)分解可用于求解线性方程组：
设\(A\)是n阶非奇异矩阵，\(b\)是n维向量，对线性方程组

\[Ax = b \tag{7} \]

1.如果\(A\)的顺序主子式都不为零，则\(A\)有三角分解\(A = LU\)，则(7)等价于如下方程组

\[\begin{cases} Ly = b\\ Ux = y \end{cases} \tag{8} \]

从而先从(8)的第一组方程解出\(y\)，然后将\(y\)代入第二组方程求出\(x\)
2.如果\(A\)的顺序主子式中有等于零的，则考虑如下方程组：

\[PAx = Pb \tag{9} \]

其中\(P\)是适当的排列矩阵，之后重复1.的步骤即可