MMD距離(Maximum mean discrepancy),最大均值差異。
1.我們可以用隨機變量的矩來描述一個隨機變量,比如一階中心矩是均值,二階中心矩是方差等等。如果兩個分布的均值和方差都相同的話,它們應該很相似,比如同樣均值和方差的高斯分布和拉普拉斯分布。但是很明顯,均值和方差並不能完全代表一個分布,這時候我們就需要更高階的矩來描述一個分布[1]。
2.MMD的基本思想就是,如果兩個隨機變量的任意階都相同的話,那么兩個分布就是一致的。而當兩個分布不相同的話,那么使得兩個分布之間差距最大的那個矩應該被用來作為度量兩個分布的標准。
3.https://zhuanlan.zhihu.com/p/163839117
看不太懂了,再生希爾伯特空間...
總之,兩個分布之間的距離可以用兩個點的內積進行表示!
