七、(10分) 設數域 $\mathbb{K}$ 上的 $n\,(n\geq 2)$ 階方陣 $A,B$ 滿足 $AB=0$ 且 $\mathrm{tr}(A^*)=0$, 證明: $A^*B=0$.
證明 我們給出四種不同的證法.
證法 1 (線性方程組求解理論) 若 $A$ 非異, 則 $B=0$, 從而 $A^*B=0$. 若 $r(A)\leq n-2$, 則 $A^*=0$, 從而 $A^*B=0$. 以下設 $r(A)=n-1$, 則由線性方程組的求解理論可知, $Ax=0$ 的解空間 $V_A$ 的維數等於 $n-r(A)=1$, 故不妨設 $V_A=L(\alpha)$, 其中 $\alpha\in\mathbb{K}^n$ 即為 $Ax=0$ 的基礎解系. 由 $AB=0$ 可知 $B$ 的每一個列向量都屬於 $Ax=0$ 的解空間 $V_A$, 從而都與 $\alpha$ 成比例, 於是存在 $\beta\in\mathbb{K}^n$, 使得 $B=\alpha\cdot\beta'$. 同理由 $AA^*=|A|I_n=0$ 可知存在 $\gamma\in\mathbb{K}^n$, 使得 $A^*=\alpha\cdot\gamma'$. 由矩陣跡的交換性可得 $\mathrm{tr}(A^*)=\mathrm{tr}(\alpha\cdot\gamma')=\mathrm{tr}(\gamma'\cdot\alpha)=\gamma'\cdot\alpha$, 於是 $$A^*B=(\alpha\cdot\gamma')(\alpha\cdot\beta')=\alpha(\gamma'\cdot\alpha)\beta'=(\gamma'\cdot\alpha)\alpha\cdot\beta'=\mathrm{tr}(A^*)B=0.$$
證法 2 (特征值理論) 若 $A$ 非異, 則 $B=0$, 從而 $A^*B=0$. 若 $r(A)\leq n-2$, 則 $A^*=0$, 從而 $A^*B=0$. 以下設 $r(A)=n-1$, 則 $A$ 關於特征值 0 的特征子空間 $V_0$ 的維數等於 $n-r(A)=1$, 故不妨設 $V_0=L(\alpha)$, 其中 $\alpha$ 為特征值 $0$ 的特征向量. 由 $AB=0$ 可知 $B$ 的每一個列向量都屬於特征子空間 $V_0$, 從而都與 $\alpha$ 成比例, 於是存在 $\beta\in\mathbb{K}^n$, 使得 $B=\alpha\cdot\beta'$. 由於 $AA^*=A^*A$, 故 $A$ 的任一特征子空間都是 $A^*$ 的不變子空間. 特別地, $V_0=L(\alpha)$ 是 $A^*$ 的不變子空間, 於是存在 $\mu\in\mathbb{K}$, 使得 $A^*\alpha=\mu\alpha$, 即 $\alpha$ 是 $A^*$ 關於特征值 $\mu$ 的特征向量. 注意到 $r(A^*)=1$ 且 $\mathrm{tr}(A^*)=0$, 故由高代白皮書的例 7.28 (利用特征值的降階公式) 可知 $A^*$ 的特征值全為零 (也可以由 $A$ 的特征值以及 $\mathrm{tr}(A^*)=0$ 推出這一結論), 於是 $\mu=0$, 從而 $A^*\alpha=0$, 因此 $A^*B=A^*\alpha\cdot\beta'=0$.
證法 3 (Cayley-Hamilton 定理的應用) 由高代白皮書的例 6.62 的證明可知: 若設 $A$ 的特征多項式 $$|\lambda I_n-A|=\lambda^n+a_1\lambda^{n-1}+\cdots+a_{n-1}\lambda+a_0,$$ 則有 $$A^*=(-1)^{n-1}(A^{n-1}+a_1A^{n-2}+\cdots+a_{n-1}I_n).$$ 再由高代白皮書的例 6.15 可知: $$a_{n-1}=(-1)^{n-1}\sum_{i=1}^nA\begin{pmatrix} 1\cdots\hat{i\,}\cdots n \\ 1\cdots\hat{i\,}\cdots n \\ \end{pmatrix}=(-1)^{n-1}\sum_{i=1}^nA_{ii}=(-1)^{n-1}\mathrm{tr}(A^*).$$ 於是 $$A^*B=(-1)^{n-1}(A^{n-1}B+a_1A^{n-1}B+\cdots+a_{n-2}AB+a_{n-1}B)=\mathrm{tr}(A^*)B=0.$$
證法 4 (Jordan 標准型的應用) 若 $A$ 非異, 則 $B=0$, 從而 $A^*B=0$. 若 $r(A)\leq n-2$, 則 $A^*=0$, 從而 $A^*B=0$. 以下設 $r(A)=n-1$. 注意到問題的條件和結論在同時相似變換 $A\mapsto P^{-1}AP$, $B\mapsto P^{-1}BP$ 下不改變 (其中 $(P^{-1}AP)^*=P^{-1}A^*P$), 故不妨從一開始就假設 $A=\mathrm{diag}\{A_1,A_2\}$ 為 Jordan 標准型, 其中 $A_1$ 是由非零特征值的 Jordan 塊構成的分塊對角陣, $A_2$ 是由零特征值的 Jordan 塊構成的分塊對角陣. 設 $B=\begin{pmatrix} B_1 \\ B_2 \\ \end{pmatrix}$ 為對應的分塊, 則由 $AB=0$ 可知 $$0=\begin{pmatrix} A_1 & O \\ O & A_2 \\ \end{pmatrix}\begin{pmatrix} B_1 \\ B_2 \\ \end{pmatrix}=\begin{pmatrix} A_1B_1 & O \\ O & A_2B_2 \\ \end{pmatrix}.$$ 由 $A_1$ 非異即得 $B_1=0$, 以及 $A_2B_2=0$. 注意到特征值 $0$ 的幾何重數為 $n-r(A)=1$, 故 $A_2=J_k(0)$ 由一個 Jordan 塊構成, 我們斷言 $k\geq 2$. 用反證法, 若 $k=1$, 則 $A^*=\begin{pmatrix} O & O \\ O & |A_1| \\ \end{pmatrix}$, 從而 $\mathrm{tr}(A^*)=|A_1|\neq 0$, 矛盾! 也可以這樣證明, 注意到 $k$ 是特征值 $0$ 的代數重數, 若 $k=1$, 則 $A$ 的特征值為 $\lambda_1=0$, $\lambda_i\neq 0\,(2\leq i\leq n)$, 於是 $A^*$ 的特征值只有 $\lambda_2\cdots\lambda_n\neq 0$, 其余 $n-1$ 個特征值全部為零, 從而 $\mathrm{tr}(A^*)=\lambda_2\cdots\lambda_n\neq 0$, 矛盾! 因此, $A^*=\begin{pmatrix} O & O \\ O & |A_1|A_2^* \\ \end{pmatrix}$, 其中 $$A_2^*=J_k(0)^*=\begin{pmatrix} & & (-1)^{k+1} \\ & & \\ & & \\ \end{pmatrix}_{\!\!\!k\times k},\,k\geq 2.$$ 由 $A_2B_2=0$ 可知 $B_2$ 的后 $k-1$ 行都等於零, 於是 $A_2^*B_2=0$, 從而 $A^*B=0$. $\Box$
注 1 本題得分在 8 分以上的同學共有 19 人, 分別為:
證法 1: 吳家茂, 陳河, 葉晨, 梁耀鳴, 蔣博, 金李洋
證法 2: 曹文景
證法 3: 錢東箭, 李澤昊, 夏偉淳, 孫進
證法 4: 毛千鷺, 吳強, 徐澤一, 邢依潔, 戴思霖, 陳志恆, 杜江川, 陳澤祥 (將 $A^*$ 化為 Jordan 標准型來討論)
注 2 由證法 1 和證法 3 可知, 本題的結論可以改進為: 設數域 $\mathbb{K}$ 上的 $n\,(n\geq 2)$ 階方陣 $A,B$ 滿足 $AB=0$, 則 $A^*B=0$ 的充要條件是 $\mathrm{tr}(A^*)=0$ 或 $B=0$.