線性空間的具體模型是三維幾何空間，但是幾何空間中的度量概念——向量的長度及向量間夾角在第1章的線性空間中還沒有體現，而這種度量概念在有些問題中是需要的。本章中引進與幾何空間中向量的數量積相對應的內積，在此基礎上定義向量的長度、夾角，最后介紹幾何空間中直角坐標變換相對應的等距變換。
內積與內積空間
若一個二元函數滿足四條公理：
- 共軛對稱性
- 齊次性
- 可加性
- 正定性
即，要判斷一個復（實）線性空間的復（實）函數是否為內積，只要驗證內積定義中的4條性質滿足即可。
在歐氏空間中：\(<\alpha,\beta>=\beta^T \alpha\)
在酉空間中：\(<\alpha,\beta>=\beta^H \alpha\)
則該二元函數為內積，它所屬的線性空間為內積空間。
特別地，當數域為實數域時為歐氏空間；數域為復數域時為酉空間。
在數域為復數域時，用共軛轉置H來代替在實數域中的直接轉置T是因為要保證結果為正數，而復數的平方會出現負數的情況，因此要取共軛。
- 要證明內積空間的非空子集是子空間，除利用子空間性質，還要證明保持內積性質。
長度與夾角
- \(Cauchy-Буняковский\)不等式
- 三角不等式
可以用向量和距離兩種方式表示。 - 勾股定理
夾角的定義
\(cos \phi=\frac{<\alpha,\beta>}{||\alpha||·||\beta||}\)，稱\(\phi\)為\(\alpha\)與\(\beta\)的夾角
- 若\(<\alpha,\beta>=0\)，則稱向量\(\alpha\)與\(\beta\)正交，記為\(\alpha ⊥ \beta\).
距離的定義
稱\(d(\alpha,\beta)=||\alpha-\beta||\)，為\(\alpha\)與\(\beta\)的距離。
正交基與Schmidt正交化
正交向量組與正交基的定義
由兩兩正交的非零向量組成的向量組稱為正交向量組
由兩兩正交的單位向量組成的向量組稱為標准正交向量組
作為正交向量組的基稱為正交基
作為標准正交向量組的基稱為標准正交基
由此，在標准正交基下的度量矩陣是單位矩陣。
Schmidt正交化方法
正交化+單位化→標准正交基
※ 注意：標准正交基不唯一。
這里可以結合度量矩陣來計算正交化過程中每一項之前的系數。
- 例題：
假設\(V\)在基\(\epsilon_1，\epsilon_2\)下的度量矩陣是\(A=\begin{pmatrix}1&2\\2&5\end{pmatrix}\)，求\(V\)的一組標准正交基。
解：
- 正交化：\(\beta_1=\epsilon_1\)
\(\beta_2=\epsilon_2-\frac{<\epsilon_2,\beta_1>}{<\beta_1,\beta_1>}\beta_1\)=\(\epsilon_2-\frac{1}{2}\epsilon_1\)=\(\epsilon_2-2\epsilon_1\)
注意這里代入了度量矩陣的\((1,1)\)和\((2,1)\)兩項。
定義\(\alpha=\begin{pmatrix}-2\\1\end{pmatrix}\)，用於之后單位化。
- 單位化：\(r_1=\frac{1}{||\beta_1||}\beta_1=\epsilon_1\)
\(r_2=\frac{1}{||\beta_2||}\beta_2=\frac{1}{\sqrt{<\beta_2,\beta_2>}}\beta_2=\beta_2=\epsilon_2-2\epsilon_1\)，其中\(<\beta_2,\beta_2>=\alpha^TA\alpha=\begin{pmatrix}-2&1\end{pmatrix}\begin{pmatrix}1&2\\2&5\end{pmatrix}\begin{pmatrix}-2\\1\end{pmatrix}=1\)
這里“其中”后的內容很重要，結合度量矩陣簡化了運算。
- \(V=R_3[x]\)（數域\(R\)上次數小於3的全體多項式及零多項式）默認的基為\(1，x，x^2\)，可以直接使用。
標准正交基的擴張定理
同普通的基一樣，標准正交基也存在擴張定理。
假設\(W\)是\(V\)的子空間，那么\(W\)的一組標准正交基可以結合其他幾個向量擴充為\(V\)的標准正交基。
度量矩陣
一組基的度量矩陣有如下性質：
- 度量矩陣是正定的
- 不同基的度量矩陣是合同的
度量矩陣的本質就是基中各向量的內積的結果。
酉矩陣
若\(A^HA=I\)，則稱n階復矩陣A為酉矩陣。
且同時滿足，\(A\)是酉矩陣\(\leftrightarrows A^HA=I \leftrightarrows A^{-1}=A^H\leftrightarrows A\)的行（列）向量組是\(C^n\)的標准正交基。
酉矩陣其實就是在復數域內的正交矩陣。
可逆陣的UT分解
設\(A\)為\(n\)階可逆陣，則存在酉陣\(U\)即主對角元恆正的上三角陣\(T\)，使
且這種分解唯一。
正交子空間
- 若要證明一個向量與線性空間正交，只需要證明這個向量與該線性空間的每一生成元都正交。
這里的生成元指的是生成子空間中的生成向量組的概念。（可以把生成元理解為基）。
詳情可以看上一章的筆記。
正交補空間
- 設\(W≤V\)，記
易證這是\(V\)的子空間，稱是\(V\)的正交補空間。
- 定理：若\(W≤V\)，則\(V=W\oplus W^⊥\)，且該正交補空間唯一。
- 推論：若\(W≤V\)，則\((W^⊥)^⊥=W\)
正交補空間的應用
- \([R(A)]^⊥=K(A^H)\)、\([K(A)]^⊥=R(A^H)\)
- 正投影（最佳逼近）和最短距離
設W是內積空間V的有限維子空間，則對V中任一向量\(\alpha\)必存在唯一\(\beta ∈W\)，使\(d(\beta,\alpha)=\mathop{min}\limits_{\zeta ∈W} d(\zeta,\alpha)\leftrightarrows (\beta-\alpha)⊥W\)，稱如上\(\beta\)為\(\alpha\)在子空間\(W\)上的正投影，也叫\(\beta\)是\(\alpha\)在子空間\(W\)上的最佳逼近，\(||\beta - \alpha||\)為\(\alpha\)到\(W\)的最短距離。
求正投影的示例：
本質其實就是使得 差向量 對於線性空間的每一個 生成元 都正交。
- 內積空間正交直和分解
兩個正交子空間下的向量與其對應的正投影正交，即互為正交投影，同樣地，差向量的模也被稱為\(\alpha\)到\(W\)的最短距離。 - 最小二乘解
可以用來求線性方程組的最佳近似解。
等距變換
等距變換就是內積空間中保持內積不變的線性變換。特別地，當\(V\)是酉空間時，稱為酉變換；當\(V\)是歐氏空間時，稱為正交變換。
對於等距變換\(f\)，以下四個條件等價：
- 保持長度不變
- 保持內積不變
- 將標准正交基變為標准正交基
- 在標准正交基下的矩陣是酉矩陣
證明內積空間的線性變換\(T\)是等距變換，只要證明\(T\)保持內積不變，或者證明\(T\)將標准正交基變成標准正交基。
備注：\(<f(x),f(y)>+<f(y),f(x)>=2Re<f(x),f(y)>\)，這里的\(Re\)表示取實部的意思。
- 示例：
注意這里的內積其實可以當做一個數來看待，因此可以直接提出去。且單位向量的內積為1.
這個例子其實就是鏡像變換。