在本系列中，我的個人見解將使用斜體標注。由於時間關系，從本篇文章起，將移除例題選項，可參考答案鏈接，如有疑問，可在評論區處留言。由於文章是我獨自整理的，缺乏審閱，難免出現錯誤，如有發現歡迎在評論區中指正。
Part 1：對偶空間與對偶映射
請將本篇文章所涉及的內容與之前所學過的基於矩陣的線性代數相結合，否則本章的內容可能看得你頭暈目眩。
線性泛函(linear functional) 從\(V\)到\(\mathbb{F}\)的線性映射，即\(\mathcal L(V,\mathbb{F})\)中的元素。
- 對於\(\mathbb{F}^n\)上的線性泛函，其一般形式為\(\phi(x_1,\cdots,x_n)=\sum_{j=1}^n a_jx_j\)。
- 對於\(\mathcal P(\mathbb{R})\)上的線性泛函，對多項式使用線性算子后進行取值是線性泛函。
- 對於\(\mathcal M(T)\)上的線性泛函，其形式為\(\phi(\mathcal M(T))=\sum_{j=1}^m\sum_{k=1}^m w_{mn}a_{mn}\)。
對偶空間(dual space) \(V\)上所有線性泛函構成的向量空間稱為\(V\)的對偶空間，即
顯然，如果\(V\)是有限維的，則\(\dim V=\dim V'\)。
對偶基(dual basis) 設\(v_1,\cdots,v_n\)是\(V\)的基，則這組基的對偶基是\(V'\)中的元素組\(\varphi_1,\cdots,\varphi_n\)，這里
首先，要證明\(\varphi_1,\cdots,\varphi_n\)確是\(V'=\mathcal L(V,\mathbb{F})\)中的元素，基於如下定理：若\(v_1,\cdots,v_n\)是\(V\)的基，\(w_1,\cdots,w_n\in W\)，則存在唯一的一個線性映射\(T\in\mathcal L(V,W)\)使得對任何\(j=1,\cdots,n\)都有\(T(v_j)=w_j\)。
下證\(\varphi_1,\cdots,\varphi_n\)是\(V'\)的基，要證明張成性與線性無關性。先證明線性無關性，設
\[a_1\varphi_1+\cdots+a_n\varphi_n=0, \]這里\(0\in V'\)是零映射，則\(\forall j=1,\cdots,n\)，有
\[(a_1\varphi_1+\cdots+a_n\varphi_n)(v_j)=a_j=0, \]這就說明了\(a_1=\cdots=a_n=0\)，線性無關性得證。
由於\(\dim V'=\dim V=n\)，所以\(\varphi_1,\cdots,\varphi_n\)是長度為\(\dim V'\)的線性無關向量組，自然是\(V'\)的基。
對偶映射(dual map) 若\(T\in\mathcal L(V,W)\)，則\(T\)的對偶映射是線性映射\(T'\in\mathcal L(W',V')\)，滿足\(\forall \varphi\in W'\)，有
對偶映射是線性映射，是基於以下事實：線性映射的乘積（復合)仍是線性映射；並且對偶映射將一個線性泛函映射到另一個線性泛函，建立起兩個線性泛函之間的關系。需要注意，這里的\(T'\)中的\('\)並非對\(T\)求導，實際上\(T\)不是一個函數也不可導。
另外，對偶映射將一個線性泛函映射到另一個線性泛函上，在矩陣空間中，\(V'\)中線性泛函可以視為一個\(n\)維行矩陣，\(W'\)中的線性泛函可以視為一個\(m\)維行矩陣，而對偶映射又是線性映射，因此可以用一個\(n\times m\)矩陣表示。實際上，如果將一個行矩陣視為一個向量（本書中向量對應的矩陣都是列矩陣），最自然的方式是什么？自然是將其轉置。在這個層面上理解，就可以理解對偶映射實際上與矩陣轉置這一概念相對應。
注意，對偶映射是線性映射，指的是對於\(\varphi_1,\varphi_2\in W'\)，有
我們接下來要驗證對偶映射\('\)自身具有加性和齊性，是\(\mathcal L(V,W)\)上的線性映射。
- \(\forall S,T\in\mathcal L(V,W)\)，有\((S+T)'=S'+T'\)。
- \(\forall \lambda\in\mathbb{F}\)和\(T\in\mathcal L(V,W)\)，有\((\lambda T)'=\lambda T'\)。
- \(\forall T\in\mathcal L(U,V)\)和\(S\in\mathcal L(V,W)\)，有\((ST)'=T'S'\)。
對於第一條，設\(\varphi\in V'\)，則
\[(S+T)'(\varphi)=\varphi(S+T)=\varphi S+\varphi T=S'(\varphi)+T'(\varphi), \]故\((S+T)'=S'+T'\)，同理可驗證第二條。
對於第三條，\(\forall \varphi\in W'\)，有
\[(ST)'(\varphi)=\varphi ST=S'(\varphi)T, \]這里\(S'(\varphi)\in V'\)，故
\[(ST)'(\varphi)=S'(\varphi)T=T'S'(\varphi), \]所以\((ST)'=T'S'\)。
如果用矩陣轉置的觀點看待對偶映射，這三點都是顯然的。
Part 2：對偶映射的零空間與值域
從矩陣轉置的角度來看，\(T'\)的零空間可以如此推導：
這里\(v'\)是\(v\)作為列向量的轉置，成為一個\(n\)維行向量，從前面的推導來看，\(n\)維行向量\(v'\)就是\(V\)中的線性泛函。如果\(v\in\mathrm{null}T\)，那么\(v'\)所代表的向量處於什么樣的線性空間？這就要引入零化子的定義。
零化子(annihilator) 對於\(U\subset V\)，\(U\)的零化子\(U^0\)是\(V'\)的子集，定義為
從定義上來看，零化子有點難以理解。首先，零化子是線性泛函構成的集合；其次，零化子依賴於某個\(V\)的子空間，並將子空間上的元素全部經線性泛函映射到\(0\in\mathbb{F}\)。
零化子是子空間 設\(U\in V\)，則\(U^0\)是\(V'\)的子空間。顯然子空間是比子集更強的條件。
顯然，\(0\in U^0\)，這里\(0\)是\(V'\)中的線性泛函。
設\(\varphi_1,\varphi_2\in U^0\)，則\(\forall u\in U\)，
\[(\varphi_1+\varphi_2)(u)=\varphi_1(u)+\varphi_2(u)=0, \]所以\(\varphi_1+\varphi_2\in U^0\)，同理有\(\lambda \varphi_1 \in U^0\)，
零化子的維數 設\(V\)是有限維的，\(U\)是\(V\)的子空間，則
證明有關維數的結論，總可以用基擴充的方式，此處的維數公式也不例外。
設\(\dim U=m<n=\dim V\)，\(v_1,\cdots,v_m\)是\(U\)的基，擴充為\(V\)的基是\(v_1,\cdots,v_n\)。要證明\(\dim U^0=n-m\)，只需證明\(U^0\)中包含的一組基是\(\varphi_{m+1},\cdots,\varphi_n\)，這里
\[\varphi_j(v_k)=\delta_{j-k}. \]這個\(n-m\)維向量組的線性無關性由對偶基的定義保證，下證其張成性。\(\forall \varphi\in U^0\)和\(u\in U\)，由於\(\varphi\in V'\)，故有
\[\varphi=b_1\varphi_1+\cdots+b_n\varphi_n, \\ u=a_1v_1+\cdots+a_mv_m, \]所以
\[\varphi(u)=a_1b_1+\cdots+a_mb_m=0. \]分別取\((a_1,\cdots,a_m)=(1,0,\cdots,0)\)、\((0,1,\cdots,0)\)等就可以證明\(b_1=\cdots=b_m=0\)，於是
\[\varphi=b_{m+1}\varphi_{m+1}+\cdots+b_n\varphi_n, \]所以\(\varphi_{m+1},\cdots,\varphi_n\)張成\(U^0\)，即證
\[\dim U^0=n-m=\dim V-\dim U. \]
書中提供了一種更簡潔的證明，關鍵在於構造一個示性映射，並運用線性映射基本定理得到此等式。
設\(i\in\mathcal L(U,V)\)，定義為\(\forall u\in U\)，\(i(u)=u\)；\(\forall w\in V\setminus U\)，\(i(w)=0\)。則\(i'\in\mathcal L(V',U')\)，對\(i'\)運用線性映射基本定理，有
\[\dim V'=\dim \mathrm{null}i'+\dim\mathrm{range}i'. \]由定義得\(\mathrm{null}i'=U^0\)。若\(\varphi\in V'\)，\(\forall v=u+w\)這里\(u\in U,w\in V\setminus U\)，則\(i'(\varphi)(v)=\varphi(i(v))=\varphi(u)\)，可以定義\(\psi\in U'\)使得\(\varphi(v)=\varphi(u)=\psi(u)\)，這就說明\(\mathrm{range}i'=U'\)，綜上得到
\[\dim V'=\dim U^0+\dim U',\\ \dim U^0+\dim U=\dim V. \]
\(T'\)的零空間 設\(V,W\)都是有限維的，\(T\in\mathcal L(V,W)\)，則
- \(\mathrm{null}T'=(\mathrm{range}T)^0\)；
- \(\dim\mathrm{null}T'=\dim\mathrm{null}T+\dim W-\dim V\)。
證明第一條。設\(\varphi\in \mathrm{null}T'\)，則\(\forall v\in V\)，有
\[T'(\varphi)(v)=\varphi(Tv)=0, \]即\(Tv\in \mathrm{range}T\)，\(\varphi(Tv)=0\)，故\(\varphi\subset (\mathrm{range}T)^0\)。
設\(\varphi\in(\mathrm{range}T)^0\)，則\(\forall v\in V\)，\(Tv\in\mathrm{range}T\)，故
\[T'(\varphi)(v)=\varphi(Tv)=0, \]所以\(\varphi\in\mathrm{null}T'\)。綜上，
\[\mathrm{null}T'=(\mathrm{range}T)^0. \]對第二條的證明，只需套用維數公式即可。
\(T\)是滿射等價於\(T'\)是單射 設\(V,W\)都是有限維向量空間，\(T\in\mathcal L(V,W)\)，則\(T\)是滿射當且僅當\(T'\)是單射。
由於\((\mathrm{range}T)^0\subset W\)，所以
\[\dim \mathrm{null}T'=\dim(\mathrm{range}T)^0=\dim W-\dim\mathrm{range}T \]若\(T\)是滿射，則\(\dim W=\dim\mathrm{range}T\)，所以\(\dim\mathrm{null}T'=0\)，即\(T'\)是單射。
若\(T'\)是單射，則\(\dim W=\dim\mathrm{range}T\)，即\(T\)是滿射。
\(T'\)的值域 設\(V,W\)都是有限維的，\(T\in\mathcal L(V,W)\)，則
- \(\dim\mathrm{range}T'=\dim\mathrm{range}T\)；
- \(\mathrm{range}T'=(\mathrm{null}T)^0\)。
證明第一條，由於\(T'\in\mathcal L(W',V')\)，所以
\[\dim\mathrm{range}T'=\dim W'-\dim \mathrm{null}T', \]又\(\dim W'=\dim W\)，\(\dim \mathrm{null}T'=\dim\mathrm{null}T+\dim W-\dim V\)，所以
\[\dim\mathrm{range}T'=\dim V-\dim\mathrm{null}T=\dim \mathrm{range}T. \]證明第二條，對\(\forall \varphi\in\mathrm{range}T'\)，則存在\(\psi\in W'\)，使得
\[\varphi=T'(\psi)=\psi T, \]故\(\forall v\in\mathrm{null}T\)，有
\[\varphi(v)=\psi (Tv)=0, \]即\(\varphi\in(\mathrm{null}T)^0\)，\(\mathrm{range}T'\subset (\mathrm{null}T)^0\)。現證明兩個子空間有相同的維數：
\[\dim\mathrm{range}T'=\dim\mathrm{range}T=\dim V-\dim \mathrm{null}T=\dim(\mathrm{null}T)^0, \]這就證明了\(\mathrm{range}T'=(\mathrm{null}T)^0\)。
這個證明為我們提供了一個新的證明兩個子空間相等的思路：如果有一側包含不易證明，則證明兩個子空間有相同的維數，這樣只需要證明單邊的包含即可。
Part 3：轉置矩陣
轉置(transpose) 矩陣\(A\)的轉置（記作\(A^\intercal\)）是通過互換\(A\)的行和列獲得的矩陣，即
顯然，轉置作為線性映射，具有加性和齊性。接下來證明矩陣乘積的轉置，這是一個我們所熟知的結論，但為了文章的完整性，將結論附在此處。
矩陣乘積的轉置 設\(A_{m\times n}\)，\(C_{n\times p}\)，則
設\(1\le k\le p\)，\(1\le j\le m\)，則
\[\begin{aligned} ((AC)^\intercal)_{k,j}&=(AC)_{j,k}\\ &=\sum_{r=1}^{n}A_{j,r}C_{r,k}\\ &=\sum_{r=1}^n(C^\intercal)_{k,r}(A^\intercal )_{r,j}\\ &=(C^\intercal A^\intercal)_{k,j}. \end{aligned} \]這代表\((AC)^\intercal=C^\intercal A^\intercal\)。
接下來要正式引入矩陣轉置與對偶映射之間的關系，首先要定義基，這里都取\(v_1,\cdots,v_n\)、\(w_1,\cdots,w_m\)以及它們的對偶基\(\varphi_1,\cdots,\varphi_n\)、\(\psi_1,\cdots,\psi_m\)計算。
\(T'\)的矩陣 設\(T\in\mathcal L(V,W)\)，則
設\(A=\mathcal M(T)\)，\(C=\mathcal M(T')\)，設\(1\le j\le m\)，\(1\le k\le n\)。
由\(\mathcal M(T')\)的定義，有
\[\psi_jT=T'(\psi_j)=\sum_{r=1}^nC_{r,j}\varphi_r, \]故兩端同時映射\(v_k\)，有
\[\psi_jTv_k=\sum_{r=1}^n C_{r,j}\varphi_r(v_k)=C_{k,j}, \]另一邊，由於
\[Tv_k=\sum_{r=1}^mA_{r,k}w_r, \]所以
\[\psi_jTv_k=\sum_{r=1}^mA_{r,k}\psi_j(w_r)=A_{j,k}. \]故\(A_{j,k}=C_{k,j}\)，這就證明了結論。
行秩(row rank)與列秩(column rank) 設\(A_{m\times n}\)，則\(A\)的行秩是\(A\)的各行在\(\mathbb{F}^{1,n}\)中張成空間的維數，\(A\)的列秩是\(A\)的各列在\(\mathbb{F}^{m,1}\)中張成空間的維數。
- 行秩與列秩的定義在之前的學習中早就了解了，這里不作過多的展開。
- 顯然，\(\mathrm{range}T\)的維數就是\((Tv_1,\cdots,Tv_n)\)的維數，故為\(\mathcal M(T)\)的列秩。
- 由於\(\mathcal M(T')\)是\(\mathcal M(T)\)的轉置，且\(\dim\mathrm{range}T=\dim\mathrm{range}T'\)，所以從這個角度，也獲得了行秩等於列秩的結論。
矩陣的秩(rank) 矩陣\(A\in\mathbb{F}^{m,n}\)的秩定義為\(A\)的列秩，也等於其行秩。