線性代數.21特征值和特征向量

這節課將講解課程中很大的主題，還是對方陣而言，討論特征值和特征向量，下一節課講解應用。

特征向量與特征值

給定矩陣 \(A\)

矩陣作用在向量上，矩陣 \(A\) 的作用就像輸入向量 \(x\) ,結果得到向量 \(Ax\)。就像一個函數，微積分中的函數表示作用在數字 \(x\) 上得到 \(f(x)\) ，矩陣就是一種變換。

在這些 \(x\) 向量中，我們比較感興趣的是變換前后還與原來互相平行的向量，多數向量而言，\(Ax\) 是不同方向的，有特定的向量能使得 \(Ax\) 平行於 \(x\) 。這些 \(x\) 就是 特征向量。

\(x\) 只經行了縮放變換，方向並沒有改變。

\[Ax=\lambda x \]

其中，\(\lambda\) 是所成系數，可以是負值或零。負值表示變換前后方向相反。這個值就是 特征值。

零特征值，表示 \(Ax=0x\) ,\(x\) 是零空間里面的向量。如果 \(A\) 是奇異矩陣，說明把她作用到非零向量 \(x\) 后得到 0

零向量可以取任意方向，和任意向量平行。

前面也提過，零向量垂直於任意向量，因為零向量點乘任何向量都為零。

注意，\(x\) 非零。

例子

在引入行列式求解特征向量和特征值之前，我們先看看已學矩陣的特征向量和特征值是什么。

例子1

假設給定某個平面，將向量 \(b\) 通過投影矩陣 \(P\) 投影到平面上。投影矩陣的特征向量和特征值分別是什么？

1. 當 \(b\) 是平面上任意向量時，投影的結果還是 \(x\) 。

\[Px=x \]

\(P\) 是變換矩陣，此時 \(x\) 是特征向量，特征值 \(\lambda=1\)。

2. 垂直於平面的向量（零空間）是特征向量，特征值 \(\lambda=0\)
   \[Px=0 \]

例子2

假設有 \(2*2\) 置換矩陣

\[A=\left( \begin{array}{cc} 0 & 1 \\ 1 & 0 \\ \end{array} \right) \]

我們可以求出她的兩個特征向量和特征值

\[x_1=\left( \begin{array}{c} 1 \\ 1 \\ \end{array} \right),\text{Ax}=\left( \begin{array}{c} 1 \\ 1 \\ \end{array} \right),\lambda=1 \]

\[x_1=\left( \begin{array}{c} -1 \\ 1 \\ \end{array} \right),\text{Ax}=\left( \begin{array}{c} 1 \\ -1 \\ \end{array} \right),\lambda=-1 \]

特征值的性質

1. \(n*n\) 矩陣有 \(n\) 個特征值

2. 特征值的和等於對角線的元素和，這個和數叫做"跡（trace）"。

\[\lambda's=a_{11}+a_{22}+a_{33}+...+a_{nn} \]

在 \(2*2\) 例子中，一旦找到了一個特征值 ,就可以找到另一個特征值.

3. 特征值之積等於行列式

求解 \(Ax=\lambda x\)

怎么求解特征值和特征向量，此時方程有兩個未知量？

將右側向量移到左邊：

\[(A-\lambda I)x=0 \]

對於非零 \(x\) ,相乘以后等於0，我們可以知道 \((A-\lambda I)\) 不可逆，是奇異的。可得

\[|A-\lambda I|=0 \]

這個只含有 \(\lambda\) 方程叫做特征（值）方程。

思路是先解出 \(\lambda\) 。\(\lambda\) 可能不只一個，而是 \(n\) 個。

解出 \(\lambda\) 之后，取出一個 \(\lambda\) 代入，利用消元法求解零空間基向量的方法，就可以求解出 \(x\) 。

例子1

\[A=\left( \begin{array}{cc} 3 & 1 \\ 1 & 3 \\ \end{array} \right) \]

給定矩陣 \(A\) ，計算特征值和特征向量。

\[\begin{align} |A-\lambda I|= \left| \begin{array}{cc} 3-\lambda & 1 \\ 1 & 3-\lambda \\ \end{array} \right|=(3-\lambda)^2-1= 0\\ \end{align} \]

解得 \(\lambda_1=2\) , \(\lambda_2=4\) .

當 \(\lambda_1=4\) 時，

\[A-4I=\left( \begin{array}{cc} -1 & 1 \\ 1 & -1 \\ \end{array} \right) \]

該矩陣零空間基向量為

\[x_1=\left( \begin{array}{c} 1 \\ 1 \\ \end{array} \right) \]

當 \(\lambda_2=2\) 時，

\[A-2I=\left( \begin{array}{cc} 1 & 1 \\ 1 & 1 \\ \end{array} \right) \]

該矩陣零空間基向量為

\[x_1=\left( \begin{array}{c} -1 \\ 1 \\ \end{array} \right) \]

對比給定矩陣 \(\left( \begin{array}{cc} 0 & 1 \\ 1 & 0 \\ \end{array} \right)\)和 \(\left( \begin{array}{cc} 3 & 1 \\ 1 & 3 \\ \end{array} \right)\) .

會發現，

如果已知 \(A=\left( \begin{array}{cc} 0 & 1 \\ 1 & 0 \\ \end{array} \right)\) ，$Ax=\lambda x $ ,已知此時 \(A\) 的特征值和特征向量。

那么對於\(A’=\left( \begin{array}{cc} 3 & 1 \\ 1 & 3 \\ \end{array} \right)\) ， $(A+3I)x=Ax+3x=(\lambda+3) x $

矩陣 \(A\) 加上 \(3I\) ，特征值加3，特征向量不變。 特征向量 \(x\) 是兩個矩陣共同的特征向量。

注意：

如果知道 \(B\) 的特征值 \(\alpha\)，\(B≠I\) ，已知 $Ax=\lambda x $ ，是否可以 通過\(Bx=\alpha x\)，知道 \(A+B\) 的特征值呢？

即 \((A+B)x=(\lambda+\alpha)x\) ?

不行，因為沒有理由 \(B\) 的特征向量就是 \(x\) .。新矩陣 \(A+B\) 的特征值不等於 \((\lambda+\alpha)\)

例子2

假設一個 \(2*2\) 正交矩陣

\[Q=\left( \begin{array}{cc} 0 & -1 \\ 1 & 0 \\ \end{array} \right) \]

我們知道 跡 \(trace=\lambda_1+\lambda_2=0\) ，行列式為 \(detQ=\lambda_1*\lambda_2=-1\)

計算

\[det(Q-\lambda I)=\left( \begin{array}{cc} -\lambda & -1 \\ -1 & -\lambda \\ \end{array} \right)=\lambda^2+1=0 \]

解得

\[\lambda_1=i,\lambda_2=-i \]

兩個特征值是虛數。且互為共軛。

復數將在這里正是進入這門課。實矩陣的特征值是有可能是復數的。

如果矩陣是對稱，就不會存在復數特征值，特征值是實數。

如果越不對稱，比如上例，\(Q^T\) 和 \(Q\) 是反對陣，\(Q^T=-Q\),而對稱矩陣性質告訴我們，對稱矩陣的轉置還是原矩陣，該例子與對稱性質完全相反，這種矩陣的特征值是純虛數。這時極端情況。

中間則是介於對稱和反對稱之間的矩陣，部分對稱，部分反對稱。

例子3

給定矩陣 \(A\)

\[A=\left( \begin{array}{cc} 3 & 1 \\ 0 & 3 \\ \end{array} \right) \]

求這個矩陣的特征向量和特征值。

\[det(A-\lambda I)=\left| \begin{array}{cc} 3-\lambda & 1 \\ 0 & 3-\lambda \\ \end{array} \right|=(3-\lambda)(3-\lambda) \]

解得

\[\lambda_1=3，\lambda_2=3 \]

將 \(\lambda\) 代入，

\[(A-\lambda) x=\left( \begin{array}{cc} 0 & 1 \\ 0 & 0 \\ \end{array} \right)x=0 \]

計算零空間基向量

\[x_1=\left( \begin{array}{c} 1 \\ 0 \\ \end{array} \right),x_2=nothing \]

\(2*2\) 矩陣，只有一個無關的特征向量。