矩陣分解（三）：三角分解

上(下)三角矩陣：對角線上(下)方的元素全為零，即對\(i<j, a_{ij} = 0\)(\(i>j, a_{ij} = 0\))
單位上(下)三角矩陣：對角線元素全為1的上(下)三角矩陣
定理1(LU分解定理)：設\(A\)是n階非奇異矩陣，則存在惟一的單位下三角矩陣\(L\)和上三角矩陣\(U\)使得

\[A = LU \tag{1} \]

\({\Longleftrightarrow}\) \(A\)的所有順序主子式均非零，即

\[\Delta_k = \Lambda \left( \begin{array}{ccc} 1 & \cdots & k \\ 1 & \cdots & k \\ \end{array} \right) \neq 0,\ k = 1, \cdots, n-1 \tag{2}\]

注意到，對於非奇異上三角陣，有：

\[\left( \begin{array}{ccccc} u_{11} & u_{12} & u_{13} & \cdots & u_{1n} \\ 0 & u_{22} & u_{23} & \cdots & u_{2n} \\ & & \ddots & \ddots & \vdots \\ & & 0 & u_{n-1,n-1} & u_{n-1,n} \\ 0 & \cdots & & 0 & u_{nn} \\ \end{array} \right) = \left( \begin{array}{ccccc} u_{11} & u_{12} & u_{13} & \cdots & u_{1n} \\ 0 & u_{22} & u_{23} & \cdots & u_{2n} \\ & & \ddots & \ddots & \vdots \\ & & 0 & u_{n-1,n-1} & u_{n-1,n} \\ 0 & \cdots & & 0 & u_{nn} \\ \end{array} \right) \left( \begin{array}{ccccc} 1 & \frac{u_{12}}{u_{11}} & \frac{u_{13}}{u_{11}} & \cdots & \frac{u_{1n}}{u_{11}} \\ & 1 & \frac{u_{23}}{u_{22}} & \cdots & \frac{u_{2n}}{u_{22}} \\ & & \ddots & \ddots & \vdots \\ & 0 & & 1 & \frac{u_{n-1,n}}{u_{n-1,n-1}} \\ & & & & 1 \\ \end{array} \right) \tag{3} \]

從而有如下結果：
定理2(LDU分解定理)：設\(A\)是n階非奇異矩陣，則存在惟一的單位下三角矩陣\(L\)，對角矩陣\(D = diag(d_1, d_2, \cdots, d_n)\)和單位上三角矩陣\(U\)使得

\[A = LDU \tag{4} \]

\({\Longleftrightarrow}\) \(A\)的所有順序主子式均非零，即\(\Delta_k \neq 0 (i = 1, \cdots, n-1)\)，且

\[d_1 = a_{11}, d_k = \frac{\Delta_k}{\Delta_{k-1}},\ k = 2, \cdots, n \tag{5} \]

有時，即使矩陣\(A\)非奇異，也未必可以作\(LU\)分解和\(LDU\)分解，此時，可以適當地改變非奇異矩陣\(A\)的行的次序（左乘一個排列矩陣），使改變后的矩陣可以作\(LU\)分解
定義1：設\(e_i\)是n階單位矩陣的第\(i\)列\((i = 1, 2, \cdots, n)\)，以\(e_1, e_2, \cdots, e_n\)為列作成的矩陣\([e_{i_1}, e_{i_2}, \cdots, e_{i_n}]\)稱為**n階排列矩陣，其中\(i_1, i_2, \cdots, i_n\)是\(1, 2, \cdots, n\)的一個排列
以排列矩陣\([e_{i_1}, e_{i_2}, \cdots, e_{i_n}]^T\)左乘n階矩陣\(A\)，就是將\(A\)的行按照\(i_1, i_2, \cdots, i_n\)的次序重排；以排列矩陣\([e_{i_1}, e_{i_2}, \cdots, e_{i_n}]^T\)右乘n階矩陣\(A\)，就是將\(A\)的列按照\(i_1, i_2, \cdots, i_n\)的次序重排
從而有下面的結果：
定理3：設\(A\)是n階非奇異矩陣，則存在排列矩陣\(P\)使得

\[PA = L\widetilde{U} = LDU \tag{6} \]

其中\(L\)是單位下三角矩陣，\(\widetilde{U}\)是上三角矩陣，\(U\)是單位上三角矩陣，\(D\)是對角矩陣\

\(LU\)分解可用於求解線性方程組：
設\(A\)是n階非奇異矩陣，\(b\)是n維向量，對線性方程組

\[Ax = b \tag{7} \]

1.如果\(A\)的順序主子式都不為零，則\(A\)有三角分解\(A = LU\)，則(7)等價於如下方程組

\[\begin{cases} Ly = b\\ Ux = y \end{cases} \tag{8} \]

從而先從(8)的第一組方程解出\(y\)，然后將\(y\)代入第二組方程求出\(x\)
2.如果\(A\)的順序主子式中有等於零的，則考慮如下方程組：

\[PAx = Pb \tag{9} \]

其中\(P\)是適當的排列矩陣，之后重復1.的步驟即可