聚類-均值漂移

一、算法簡介

 

1. 均值漂移算法首先找到一個中心點center（隨機選擇），然后根據半徑划分一個范圍
2. 把這個范圍內的點輸入簇c的標記個數加1
3. 在這個范圍內，計算其它點到這個點的平均距離，並把這個平均距離當成偏移量 shift
4. 把中心點center移動偏移量 shift 個單位，當成新的中心點
5. 重復上述步驟直到 shift小於一定閾值，即收斂
6. 如果當前簇c的center和另一個簇c2的center距離小於一定閾值，則把當前簇歸類為c2，否則聚類的類別+1
7. 重復1、2、3、4、5、6直到所有點都遍歷過
8. 如果一個點既被簇c1遍歷過，也被簇c2遍歷過，則把其歸類為標記數多的簇

 

根據上述描述均值漂移聚類也就是根據密度來聚類的，樣本會屬於密度最大的那個類別的簇

 

 

二、一些計算

 1、基礎偏移量

• S_h為球半徑內的點集合
• 也就是用集合內的點與質心相減得到累計的偏移量

2、高斯偏移量

• 在基礎偏移量計算中，集合范圍內距離簇心越遠的點擁有越大的權重，這不合理
• 距離簇心越近的點應該跟簇心的類別越接近，因此此類的點應該有更大的權重

 

3、更新新的質心為

 

三、Code

from scipy.spatial import distance
from sklearn.neighbors import NearestNeighbors
from sklearn.cluster.dbscan_ import DBSCAN
from sklearn.cluster.dbscan_ import dbscan
import numpy as np
from matplotlib import pyplot as plt
from sklearn.cluster import MeanShift, estimate_bandwidth

from sklearn.cluster.tests.common import generate_clustered_data

min_samples = 10
eps = 0.0309

X = generate_clustered_data(seed=1, n_samples_per_cluster=1000)

#quantile 控制是否同一類別的距離
bandwidth = estimate_bandwidth(X, quantile=0.3, n_samples=len(X))
meanshift = MeanShift(bandwidth=bandwidth, bin_seeding=True)  # 構建對象
meanshift.fit(X)
labels = meanshift.labels_

print(np.unique(labels))

fig, ax = plt.subplots()
cluster_num = len(np.unique(labels))  # label的個數，即自動划分的族群的個數
for i in range(0, cluster_num):
    x = []
    y = []
    for ind, label in enumerate(labels):
        if label == i:
            x.append(X[ind][0])
            y.append(X[ind][1])
    ax.scatter(x, y, s=1)

plt.show()

 

結果