使用python利用pca對數據降維處理

下面寫下用pca對數據進行降維處理的過程:

Python源代碼如下:

from numpy import *;
def loadDataSet(fileName,delim='\t'):
    # 打開文件
    fr=open(fileName);
    """
>>> line0=fr.readlines();
>>> type(line0)
<class 'list'>
>>> line0[0]
'10.235186\t11.321997\n'
    """
    stringArr=[line.strip().split(delim) for line in fr.readlines()];
    # map函數作用於給定序列的每一個元素,並用一個列表來提供返回值
    datArr=[list(map(lambda x:float(x),line)) for line in stringArr];
    dataMat=mat(datArr);
    return dataMat;

def pcaFun(dataMat,topNfeat=9999999):
    # 計算每列的平均值axis=0,計算每行的平均值axis=1
    meanVals=mean(dataMat,axis=0);
    # 去平均值,shape(dataMat)=(1000, 2),shape(meanVals)=(1, 2)
    meanRemoved=dataMat-meanVals;# 可以直接對兩個維度不同的矩陣進行運算
    # 計算協方差矩陣shape(covMat)=(2, 2)
    covMat=cov(meanRemoved,rowvar=0);
    # 計算協方差矩陣的特征值和特征向量
    eigVals,eigVects=linalg.eig(mat(covMat));
    # 對特征值按升序排序
    eigValInd=argsort(eigVals);
    # 對特征值進行逆序排序
    eigValInd=eigValInd[:-(topNfeat+1):-1];
    # 計算最大特征值對應的特征向量
    redEigVects=eigVects[:,eigValInd];
    # 計算降維之后的數據集
    lowDDataMat=meanRemoved*redEigVects;
    # 重構原始數據
    reconMat=(lowDDataMat*redEigVects.T)+meanVals;
    return lowDDataMat,reconMat;

import matplotlib.pyplot as plt;
# 繪圖,繪出原始數據和降維后的數據
def plotData(dataMat,reconMat):
    # import matplotlib;
    # import matplotlib.pyplot as plt;
    fig=plt.figure();
    ax=fig.add_subplot(111);
    ax.scatter(dataMat[:,0].flatten().A[0],dataMat[:,1].flatten().A[0],marker='^',s=90);
    ax.scatter(reconMat[:,0].flatten().A[0],reconMat[:,1].flatten().A[0],marker='o',s=50,c='red');
    plt.show();

上面代碼中lowDDataMat為降維后的數據集,reconMat為重構的數據集;繪出原始數據和降維后的數據圖如下: