SVM核函數功能和選擇——可視化 附源代碼

# coding: utf-8

# In[3]:


import numpy as np
import matplotlib.pyplot as plt
from matplotlib.colors import ListedColormap 
from sklearn import svm
from sklearn.datasets import make_circles, make_moons, make_blobs,make_classification


# In[4]:


n_samples = 100

datasets = [
    make_moons(n_samples=n_samples, noise=0.2, random_state=0), 
    make_circles(n_samples=n_samples, noise=0.2, factor=0.5, random_state=1), 
    make_blobs(n_samples=n_samples, centers=2, random_state=5), make_classification(n_samples=n_samples,n_features =
    2,n_informative=2,n_redundant=0, random_state=5)
    ]

Kernel = ["linear","poly","rbf","sigmoid"] #四個數據集分別是什么樣子呢？

for X,Y in datasets: 
    plt.figure(figsize=(5,4))
    plt.scatter(X[:,0],X[:,1],c=Y,s=50,cmap="rainbow")


# In[14]:


nrows=len(datasets) 
ncols=len(Kernel) + 1

fig, axes = plt.subplots(nrows, ncols,figsize=(20,16))

for X,Y in datasets:
    plt.figure(figsize=(5,4))
    plt.scatter(X[:,0],X[:,1],c=Y,s=50,cmap="rainbow")

#第一層循環：在不同的數據集中循環
for ds_cnt, (X,Y) in enumerate(datasets):

    #在圖像中的第一列，放置原數據的分布
    ax = axes[ds_cnt, 0]
    if ds_cnt == 0: 
        ax.set_title("Input data")
    ax.scatter(X[:, 0], X[:, 1], c=Y, zorder=10, cmap=plt.cm.Paired,edgecolors='k') 
    ax.set_xticks(())
    ax.set_yticks(())

    #第二層循環：在不同的核函數中循環
    #從圖像的第二列開始，一個個填充分類結果
    for est_idx, kernel in enumerate(Kernel):

        #定義子圖位置
        ax = axes[ds_cnt, est_idx + 1]

        #建模
        clf = svm.SVC(kernel=kernel, gamma=2).fit(X, Y)
        score = clf.score(X, Y)

        #繪制圖像本身分布的散點圖
        ax.scatter(X[:, 0], X[:, 1], c=Y
        ,zorder=10
        ,cmap=plt.cm.Paired,edgecolors='k')
        #繪制支持向量
        ax.scatter(clf.support_vectors_[:, 0], clf.support_vectors_[:, 1], s=50, 
　　　　　　　　　　　　　 facecolors='none', zorder=10, edgecolors='k')

        #繪制決策邊界
        x_min, x_max = X[:, 0].min() - .5, X[:, 0].max() + .5
        y_min, y_max = X[:, 1].min() - .5, X[:, 1].max() + .5

        #np.mgrid，合並了我們之前使用的np.linspace和np.meshgrid的用法    #一次性使用最大值和最小值來生成網格
        #表示為[起始值：結束值：步長]
        #如果步長是復數，則其整數部分就是起始值和結束值之間創建的點的數量，並且結束值被包含在內
        XX, YY = np.mgrid[x_min:x_max:200j, y_min:y_max:200j] #np.c_，類似於np.vstack的功能
        Z = clf.decision_function(np.c_[XX.ravel(), YY.ravel()]).reshape(XX.shape) #填充等高線不同區域的顏色
        ax.pcolormesh(XX, YY, Z > 0, cmap=plt.cm.Paired) #繪制等高線
        ax.contour(XX, YY, Z, colors=['k', 'k', 'k'], linestyles=['--', '-', '--'], levels=[-1, 0, 1])

        #設定坐標軸為不顯示ax.set_xticks(()) ax.set_yticks(())

        #將標題放在第一行的頂上if ds_cnt == 0:
        ax.set_title(kernel)

        #為每張圖添加分類的分數
        ax.text(0.95, 0.06, ('%.2f' % score).lstrip('0')
        , size=15
        , bbox=dict(boxstyle='round', alpha=0.8, facecolor='white') #為分數添加一個白色的格子作為底色
        , transform=ax.transAxes #確定文字所對應的坐標軸，就是ax子圖的坐標軸本身
        , horizontalalignment='right' #位於坐標軸的什么方向
        )

plt.tight_layout() 
plt.show()