線性方程 \(Ax=b\) 是穩定狀態的問題，特征值在動態問題中有着巨大的重要性。\(du/dt=Au\) 的解隨着時間增長、衰減或者震盪，是不能通過消元來求解的。接下來，我們進入線性代數一個新的部分，基於 \(Ax=\lambda x\)，我們要討論的所有矩陣都是方陣。
1. 特征值和特征向量
幾乎所有的向量在乘以矩陣 \(A\) 后都會改變方向，某些特殊的向量 \(x\) 和 \(Ax\) 位於同一個方向，它們稱之為特征向量。
數字 \(\lambda\) 稱為特征值。它告訴我們在乘以 \(A\) 后，向量是怎么被拉伸、縮小、反轉或者不變的。 \(\lambda = 0\) 意味着特征向量存在於矩陣的零空間中。任意向量都是單位矩陣的特征向量，因為 \(Ix=x\)，其特征值為 1。
要計算特征值的話，我們只需要知道 \(det (A-\lambda I)=0\) 即可。
如果 \(x_1\) 乘以 \(A\) 的話，我們仍然得到 \(x_1\)，任意 \(A\) 的乘方仍然得到 \(A^nx_1=x_1\) 。如果 \(x_2\) 乘以 \(A\) 的話，我們得到 \(\frac{1}{2}x_2\)，再乘以 \(A\) 我們得到 \((\frac{1}{2})^2x_2\)。
當 \(A\) 被平方的時候，其特征向量不變，特征值也變為平方。
這種模式將會繼續保持，因為特征向量一直待在他們自己的方向，不會改變。
其它向量都會改變方向，但它們可以表示為特征向量的線性組合。
當我們將這個向量乘以 \(A\) 后，每個特征向量都乘以了它們對應的特征值。
利用這個特性，我們可以進行 99 次乘法。
特征向量 \(x_1\) 處於穩定狀態，因為 \(\lambda_1=1\)，所以它不會改變。特征向量 \(x_2\) 處於衰減狀態，因為 \(\lambda_2=0.5\)，乘方次數很大時，它就相當於消失了。
上述這個特殊的矩陣是一個馬爾科夫矩陣，它的每個元素都為正並且每一列相加之后和為 1，這保證了它的最大特征值為 1。
對於投影矩陣，它的特征值為 0 和 1。\(\lambda = 1\) 對應於穩定狀態，投影矩陣將列空間的所有向量都投影到列空間中去，也即還是它自身，\(Px_1 = x_1\)。\(\lambda = 0\) 對應於零空間，投影矩陣將零空間的所有向量都投影到零向量，\(Px_2 = \boldsymbol 0\)。
對於鏡像矩陣，它的特征值為 1 和 -1。\(\lambda = 1\) 說明乘以矩陣 \(R\) 后特征向量 \(x_1\) 不變，\(\lambda = -1\) 說明乘以矩陣 \(R\) 后特征向量 \(x_2\) 變為相反方向。
同時，由於 \(R = 2P-I\)，因此投影矩陣和鏡像矩陣有着相同的特征向量。如果 \(Px=\lambda x\)，那么
2. 特征值的計算
如果上述式子有非零解，那么 \(A-\lambda I\) 是奇異的，也就是行列式為零。因此，我們先通過下式求出特征值。
然后，針對每個特征值，再通過求解 \((A-\lambda I)x=\boldsymbol 0\) 來找到特征向量。
一些 \(2×2\) 矩陣可能只有一個特征向量，這時候，它的兩個特征值相同。同理，\(n×n\) 的矩陣如果沒有 \(n\) 個線性不相關的特征向量，那么就不能將任意一個向量都表示為特征向量的線性組合。
消元過程通常會改變矩陣的特征值，三角型矩陣 \(U\) 的對角線元素即為特征值，但它們不是矩陣 \(A\) 的特征值。
但是，我們可以從矩陣中很快地就發現特征值的乘積以及和。
\(n\) 個特征值的乘積就是矩陣的行列式值。\(n\) 個特征值的和就是矩陣 \(n\) 個對角線元素的和。
主對角線上元素的和稱為矩陣的跡（trace）。
另外，特征值也可能會不是實數。
獲取更多精彩，請關注「seniusen」!
