【轉】關於Mahalanobis距離的筆記

本文轉載自查看原文 2014-12-09 14:19 7419 機器學習和數據挖掘

Mahalanobis距離是用來度量一個點P和一個分布D之間的距離，它是衡量點P與分布D的均值之間存在多少個標准差的一個多維泛化版本。

如果P就位於分布D的均值處，則該距離為0；該距離隨着P的偏離均值開始逐步增大。

由印度統計學家馬哈拉諾比斯（P. C. Mahalanobis）提出的，表示數據的協方差距離。它是一種有效的計算兩個未知樣本集的相似度的方法。與歐氏距離不同的是它考慮到各種特性之間的聯系（例如：一條關於身高的信息會帶來一條關於體重的信息，因為兩者是有關聯的）並且是尺度無關的（scale-invariant），即獨立於測量尺度。對於一個均值為 $\mu = ( \mu_1, \mu_2, \mu_3, \dots , \mu_p )^T$ ，協方差矩陣為 $\Sigma$ 的多變量向量 $x = ( x_1, x_2, x_3, \dots, x_p )^T$ ，其馬氏距離為

D_M(x) = \sqrt{(x - \mu)^T \Sigma^{-1} (x-\mu)}

馬氏距離也可以定義為兩個服從同一分布並且其協方差矩陣為 $\Sigma$ 的隨機變量 $\vec{x}$ 與 $\vec{y}$ 的差異程度：

d(\vec{x},\vec{y})=\sqrt{(\vec{x}-\vec{y})^T\Sigma^{-1} (\vec{x}-\vec{y})}

如果協方差矩陣為單位矩陣，馬氏距離就簡化為歐氏距離；如果協方差矩陣為對角陣，其也可稱為正規化的歐氏距離。

d(\vec{x},\vec{y})=\sqrt{\sum_{i=1}^p {(x_i - y_i)^2 \over \sigma_i^2}}

其中 $\sigma_i$ 是 $x_i$ 的標准差。

來源： <https://zh.wikipedia.org/zh/%E9%A9%AC%E6%B0%8F%E8%B7%9D%E7%A6%BB>

mahalanobis距離是基於樣本分布的一種距離。物理意義就是在規范化的主成分空間中的歐氏距離。所謂規范化的主成分空間就是利用主成分分析對一些數據進行主成分分解。再對所有主成分分解軸做歸一化，形成新的坐標軸。由這些坐標軸張成的空間就是規范化的主成分空間。
換句話說，主成分分析就是把橢球分布的樣本改變到另一個空間里，使其成為球狀分布。而mahalanobis距離就是在樣本呈球狀分布的空間里面所求得的Euclidean距離。
當然，上面的解釋只是對橢球分布而言，對一般分布，只能消除分布的二階相關性，而不能消除高階相關性。

來源： <http://blog.csdn.net/luoleicn/article/details/6324266>

免責聲明！

本站轉載的文章為個人學習借鑒使用，本站對版權不負任何法律責任。如果侵犯了您的隱私權益，請聯系本站郵箱yoyou2525@163.com刪除。

猜您在找 馬氏距離(Mahalanobis distance) sql 坐標距離排序計算距離（轉）像素間的基本關系-距離（轉）機器學習筆記-距離度量與相似度(二)馬氏距離【筆記】jquery js獲取瀏覽器滑動條距離頂部距離的寫法挑子學習筆記：對數似然距離（Log-Likelihood Distance）光傳感器和距離傳感器代碼分析【轉】【轉】C#計算兩坐標點距離反距離權重插值（IDW）的python實現（網轉） GLSL學習筆記 [轉]