title: 向量范數和矩陣范數
date: 2018-05-28 16:49:50
tags: [經常忘,數學]
categories: 概念
mathjax: true
范數
范數分為向量范數和矩陣范數，概念經常忘記，這里總結一下。
向量范數
對於向量\(x=[x_1,x_2,...,x_N]\)，其范數定義如下：
p-范數
\(\|x\|_p=(\sum_{i=1}^N|x_i|^p )^{1/p}\)
對向量元素絕對值的p次方求和后，再計算1/p次冪。
特殊地，當p取0，1，2，\(\infty\)，\(-\infty\)，時，對應范數意義如下。
0-范數
特殊地，數學中認為，向量的0范數即向量中非零元素個數。
1-范數
\(\|x\|_1=\sum\limits_{i=1}^N|x_i|\)
向量的1范數即向量中元素的絕對值之和。到原點的距離之和。
2-范數
\(\|x\|_2=\left(\sum\limits_{i=1}^N|x_i|^2\right)^{\frac12}\)
向量的2范數也稱歐幾里得范數，也就是通常說的向量長度。
\(\infty\)-范數
\(\|x\|_\infty=\max\limits_{i}|x_i|\)
向量的正無窮范數即向量元素絕對值中的最大值。到原點的最遠距離。
\(-\infty\)-范數
\(\|x\|_{-\infty}=\max\limits_i|x_i|\)
向量的負無窮范數即向量元素絕對值中的最小值。到原點的最近距離。
矩陣范數
對於矩陣\(A=(a_{ij})_{m\ast n}\)，其范數定義如下：
0-范數
矩陣的0-范數同樣標識矩陣中非零元素的個數。可以表示矩陣的稀疏程度。
1-范數
\(\|A\|_1=\max\limits_j\sum\limits_{i=1}^m|a_{ij}|\)
矩陣的1-范數，也稱列和范數，即所有矩陣列向量的絕對值之和的最大值。
2-范數
\(\|A\|_2=\sqrt{\lambda_1}\)，\(\lambda_1\)是\(A^TA\)的最大特征值(所以說方陣才有2-范數)。
矩陣的2-范數，也稱譜范數，即\(A^TA\)的最大特征值開平方。
\(\infty\)-范數
\(\|A\|_\infty=\max\limits_i\sum\limits_{j=1}^m|a_{ij}|\)
矩陣的\(\infty\)-范數，也稱行和范數，即所有矩陣行向量的絕對值之和的最大值。
F-范數
\(\|A\|_F=\left(\sum\limits_{i=1}^m\sum\limits_{j=1}^na_{ij}^2\right)^{\frac12}\)
矩陣的F-范數，即Frobenius范數，矩陣元素的平方和再開平方。