轉載自：https://www.cnblogs.com/chaosimple/p/3182157.html
方差和標准差一般用來描述一維數據
協方差用來描述二維數據
協方差矩陣用來描述二維及以上數據
協方差用來分析數據之間的相關性
數學期望
為啥提期望呢，肯定是有關系的嘞。來來來，先簡單回顧下數學期望相關的知識。
- 數學期望
離散型隨機變量的一切可能的取值xi與對應的概率Pi(=xi)之積的和稱為該離散型隨機變量的數學期望（設級數絕對收斂），記為 E（x）。隨機變量最基本的數學特征之一。它反映隨機變量平均取值的大小。又稱期望或均值。
若隨機變量X的分布函數F(x)可表示成一個非負可積函數f(x)的積分，則稱X為連續性隨機變量，f(x)稱為X的概率密度函數（分布密度函數）。 - 方差
方差是各個數據與平均數之差的平方的平均數。在概率論和數理統計中，方差（英文Variance）用來度量隨機變量和其數學期望（即均值）之間的偏離程度。在許多實際問題中，研究隨機變量和均值之間的偏離程度有着很重要的意義。
方差刻畫了隨機變量的取值對於其數學期望的離散程度。
協方差
標准差和方差一般是用來描述一維數據的，但現實生活中我們常常會遇到含有多維數據的數據集，最簡單的是大家上學時免不了要統計多個學科的考試成績。面對這樣的數據集，我們當然可以按照每一維獨立的計算其方差，但是通常我們還想了解更多，比如，一個男孩子的猥瑣程度跟他受女孩子的歡迎程度是否存在一些聯系。協方差就是這樣一種用來度量兩個隨機變量關系的統計量，我們可以仿照方差的定義：
來度量各個維度偏離其均值的程度，協方差可以這樣來定義：
協方差的結果有什么意義呢？如果結果為正值，則說明兩者是正相關的（從協方差可以引出“相關系數”的定義），也就是說一個人越猥瑣越受女孩歡迎。如果結果為負值， 就說明兩者是負相關，越猥瑣女孩子越討厭。如果為0，則兩者之間沒有關系，猥瑣不猥瑣和女孩子喜不喜歡之間沒有關聯，就是統計上說的“相互獨立”。
從協方差的定義上我們也可以看出一些顯而易見的性質，如：
協方差矩陣
前面提到的猥瑣和受歡迎的問題是典型的二維問題，而協方差也只能處理二維問題，那維數多了自然就需要計算多個協方差，比如n維的數據集就需要計算個協方差，那自然而然我們會想到使用矩陣來組織這些數據。給出協方差矩陣的定義：
這個定義還是很容易理解的，我們可以舉一個三維的例子，假設數據集有三個維度，則協方差矩陣為：
可見，協方差矩陣是一個對稱的矩陣，而且對角線是各個維度的方差
其他博客：鏈接在這：http://blog.csdn.net/itplus/article/details/11452743