每次看公式用到協方差矩陣時，要跑去網站上看一下協方差矩陣的定義，當然一看就能看明白，可是到了下次再碰到時，不查資料又卡住了，卡在那里令人糾結，這只能說明沒有真正理解協方差矩陣。這次順便做下筆記，加深下理解。
首先要清楚一般出現協方差矩陣時就會出現多維列向量，這里假設為n維，另外既然有協方差字眼，那肯定是一個隨機變量。這里假設有d個隨機變量x1，x2,x3,…,xd,只不過每個隨機變量x又是由n個標量組成的列向量。簡單的理解就是說在n維空間中有d個隨機的點。現在我們需要求的是關於n維空間中這d個點的協方差矩陣。
用uk列向量表示d個點的平均值，uk中的每一個元素對應d個點中相應維數的平均數。所以協方差矩陣為n*n維的。其每個元素的計算公式如下：
（這個公式是從百度百科上截的，貌似這里的X1，X2，...，Xn和我上面描述的不同，該公式里面指的是由每一維的d個值構成的向量...不管怎樣，該博客中文字的描述是正確的）
其數學含義是協方差矩陣的第i行第j列的元素表示為，d個隨機變量點中的第i維和第j維的協方差。因為每一維的d個數都可以看做算是一維空間中的d個實數，因此它有自己的平均數和方差，每2維之間也就有協方差。
希望以后不要再卡住了！