矩陣分解
基本矩陣分類
- 正交矩陣 ： \(AA^T=A^TA=I\)
- 正定矩陣 ： 對於任何\(0\not=x\in R^n\), \(A^TxA>0\), \(A\)為正定矩陣
- 對稱矩陣 ： \(A=A^T\)
- 對稱正定矩陣 ：若滿足\(A=A^T\)，且對於任何\(0\not=x\in R^n\), \(A^TxA>0\)， \(A\)為對稱正定矩陣
- Hermite矩陣 : 若滿足\(A=A^T\)，且對於任何\(0\not=x\in C^n\), \(A^TxA>0\)， \(A\)為Hermite矩陣
范數定義
向量的范數可以簡單形象的理解為向量的長度，或者向量到零點的距離，或者相應的兩個點之間的距離。
向量\(x=(x_1,x_2,\cdots,x_n)\)的范數是一個函數\(||x||\),滿足如下幾個條件
- \(||x||>=0\) 非負性
- \(||cx||=|c||x|||\) 齊次性
- \(||x+y||<=||x||+||y||\) 三角不等性
\[||x||_k=\left( \sum_{i=1}^{n}|x_i|^k\right)^{1/k} \]
常用范數
\(L1\)范數：\(||x||_1=\left(\sum_{i=1}^{n}|x_i|^1\right)^{1/1}=\sum_{i=1}^{n}|x_i|\) 即各項的絕對數之和
\(L2\)范數：\(||x||_2=\left(\sum_{i=1}^{n}|x_i|^2\right)^{1/2}\) 即各個元素平方和的開方
\(L\infty\)范數: \(||x||_{\infty}=\lim_{k\to\infty} \left( \sum_{i=1}^{n}|x_i|^k\right)^{1/k}=max(|x_i|)\) 為各個元素中絕對值最大值