學過概率統計的孩子都知道，統計里最基本的概念就是樣本的均值，方差，或者再加個標准差。首先我們給你一個含有n個樣本的集合，依次給出這些概念的公式描述，這些高中學過數學的孩子都應該知道吧，一帶而過。
很顯然，均值描述的是樣本集合的中間點，它告訴我們的信息是很有限的，而標准差給我們描述的則是樣本集合的各個樣本點到均值的距離之平均。以這兩個集合為例，[0，8，12，20]和[8，9，11，12]，兩個集合的均值都是10，但顯然兩個集合差別是很大的，計算兩者的標准差，前者是8.3，后者是1.8，顯然后者較為集中，故其標准差小一些，標准差描述的就是這種“散布度”。之所以除以n-1而不是除以n，是因為這樣能使我們以較小的樣本集更好的逼近總體的標准差，即統計上所謂的“無偏估計”。而方差則僅僅是標准差的平方。
為什么需要協方差？
上面幾個統計量看似已經描述的差不多了，但我們應該注意到，標准差和方差一般是用來描述一維數據的，但現實生活我們常常遇到含有多維數據的數據集，最簡單的大家上學時免不了要統計多個學科的考試成績。面對這樣的數據集，我們當然可以按照每一維獨立的計算其方差，但是通常我們還想了解更多，比如，一個男孩子的猥瑣程度跟他受女孩子歡迎程度是否存在一些聯系啊，嘿嘿~協方差就是這樣一種用來度量兩個隨機變量關系的統計量，我們可以仿照方差的定義：
來度量各個維度偏離其均值的程度：
協方差的結果有什么意義呢？如果結果為正值，則說明兩者是正相關的(從協方差可以引出“相關系數”的定義)，也就是說一個人越猥瑣就越受女孩子歡迎，嘿嘿，那必須的~結果為負值就說明負相關的，越猥瑣女孩子越討厭，可能嗎？如果為0，那兩者不相關。
二維隨機變量（X，Y），X與Y之間的協方差定義為：
Cov(X,Y)=E{[X-E(X)][Y-E(Y)]}
其中：E(X)為分量X的期望，E(Y)為分量Y的期望
協方差Cov(X,Y)是描述隨機變量相互關聯程度的一個特征數，是一個衡量線性獨立的無量綱的數。從協方差的定義可以看出，它是X的偏差【X-E(X)】與Y的偏差【Y-E(Y)】的乘積的數學期望。由於偏差可正可負，因此協方差也可正可負。
l 當協方差Cov(X,Y)>0時，稱X與Y正相關
l 當協方差Cov(X,Y)<0時，稱X與Y負相關
l 當協方差Cov(X,Y)=0時，稱X與Y不相關
從協方差的定義上我們也可以看出一些顯而易見的性質，如：
特別注意
舉個栗子
二維隨機變量（身高X，體重Y）
|
|
身高X（cm） |
體重Y（500g） |
X-E(X) |
Y-E(Y) |
[X-E(X)][Y-E(Y)] |
| 1 |
152 |
92 |
-19.4 |
-39.7 |
770.18 |
| 2 |
185 |
162 |
13.6 |
30.3 |
412.08 |
| 3 |
169 |
125 |
-2.4 |
-6.7 |
16.08 |
| 4 |
172 |
118 |
0.6 |
-13.7 |
-8.22 |
| 5 |
174 |
122 |
2.6 |
-9.7 |
-25.22 |
| 6 |
168 |
135 |
-3.4 |
3.3 |
-11.22 |
| 7 |
180 |
168 |
8.6 |
36.3 |
312.18 |
|
|
E(X) =171.4 |
E(Y) =131.7 |
|
|
E{[X-E(X)][Y-E(Y)]}=209.4 |
根據直覺我們也會想到，身高和體重是有正相關性的，身高較高的體重一般會比較大，同樣體重大的身高一般也比較高。計算出來的結果也非常符合我們的直覺。
協方差多了就是協方差矩陣
上一節提到的猥瑣和受歡迎的問題是典型二維問題，而協方差也只能處理二維問題，那維數多了自然就需要計算多個協方差，比如n維的數據集就需要計算 n! / ((n-2)!*2) 個協方差，那自然而然的我們會想到使用矩陣來組織這些數據。給出協方差矩陣的定義：
這個定義還是很容易理解的，我們可以舉一個簡單的三維的例子，假設數據集有三個維度，則協方差矩陣為
可見，協方差矩陣是一個對稱的矩陣，而且對角線是各個維度上的方差。
但是，協方差僅能進行定性的分析，並不能進行定量的分析，比如身高體重之間的協方差為209.4，它們之間的相關性具體有多大呢，協方差並沒有給出定量的判斷標准。因此我們引出相關系數的概念。
相關系數
隨機變量X和Y的(Pearson)相關系數的定義
其中：Var(X)為X的方差，Var(Y)為Y的方差。
根據施瓦茨不等式可以得到 | Corr(X,Y) | ≤ 1，這樣就可以定量的分析兩個隨機變量的相關性了。
當 Corr(X,Y) = 1的時候，說明兩個隨機變量完全正相關，即滿足Y = aX+b，a>0
考慮 Corr(X,X)，兩個隨機變量相同，肯定滿足線性關系，此時，Cov(X,X) = Var(X)，容易得到Corr(X,Y) = 1
當 Corr(X,Y) = -1的時候，說明兩個隨機變量完全負相關，即滿足Y = -aX+b，a>0
當 0 < | Corr(X,Y) | < 1的時候，說明兩個隨機變量具有一定程度的線性關系。
還是以前面的兩個例子為例，
身高體重：Corr(X,Y)= 209.4/(10.2*24.4)=0.84
游戲時間與學習成績：Corr(X,Y)= -10.5/(1.1*13.4)= -0.71
有了相關系數，我們可以說，身高與體重之間的線性相關性比游戲時間與學習成績之間的線性相關性更大。
補充說明：
Corr(X,Y)為0，表示X與Y不相關，這里的不相關指的是X與Y沒有線性關系，但不是沒有關系。因此將“相關”理解為“線性相關”也許更恰當一些。
Matlab協方差實戰
上面涉及的內容都比較容易，協方差矩陣似乎也很簡單，但實戰起來就很容易讓人迷茫了。必須要明確一點，協方差矩陣計算的是不同維度之間的協方差，而不是不同樣本之間的。這個我將結合下面的例子說明，以下的演示將使用Matlab，為了說明計算原理，不直接調用Matlab的cov函數(藍色部分為Matlab代碼)。
首先，隨機產生一個10*3維的整數矩陣作為樣本集，10為樣本的個數，3為樣本的維數。
mysample = fix(rand(10,3)*50)
根據公式，計算協方差需要計算均值，那是按行計算均值還是按列呢，我一開始就老是困擾這個問題。前面我們也特別強調了，協方差矩陣是計算不同維度間的協方差，要時刻牢記這一點。樣本矩陣的每行是一個樣本，每列為一個維度，所以我們要按列計算均值。為了描述方便，我們先將三個維度的數據分別賦值：
>> dim1 = mysample(:,1); >> dim2 = mysample(:,2); >> dim3 = mysample(:,3);
計算dim1與dim2，dim1與dim3，dim2與dim3的協方差：
>> sum((dim1 - mean(dim1)) .* (dim2 - mean(dim2))) / (size(mysample, 1) - 1) %得到 -147.0667 >> sum((dim1 - mean(dim1)) .* (dim3 - mean(dim3))) / (size(mysample, 1) - 1) %得到 -82.2667 >> sum((dim2 - mean(dim2)) .* (dim3 - mean(dim3))) / (size(mysample, 1) - 1) %得到 76.5111
搞清楚了這個后面就容易多了，協方差矩陣的對角線就是各個維度上的方差，下面我們依次計算：
>> var(dim1) %得到 227.8778 >> var(dim2) %得到 179.8222 >> var(dim3) %得到 156.7111
這樣，我們就得到了計算協方差矩陣所需要的所有數據，調用Matlab自帶的cov函數進行驗證：
>> cov(mysample)
把我們計算的數據對號入座，是不是一摸一樣？
Update
今天突然發現，原來協方差矩陣還可以這樣計算，先讓樣本矩陣中心化，即每一維度減去該維度的均值，使每一維度上的均值為0，然后直接用新的到的樣本矩陣乘上它的轉置，然后除以(N-1)即可。其實這種方法也是由前面的公式推導而來，只不過理解起來不是很直觀，但在抽象的公式推導時還是很常用的！同樣給出Matlab代碼實現：
>> temp = mysample - repmat(mean(mysample), 10, 1); >> result = temp' * temp ./ (size(mysample, 1) - 1)
總結
理解協方差矩陣的關鍵就在於牢記它計算的是不同維度之間的協方差，而不是不同樣本之間，拿到一個樣本矩陣，我們最先要明確的就是一行是一個樣本還是一個維度，心中明確這個整個計算過程就會順流而下，這么一來就不會迷茫了~
轉自 Nani_xiao的博客文章：什么是協方差，怎么計算？為什么需要協方差？，三山音的博客文章：協方差與相關系數，以及百度百科名詞：協方差。