LDA(線性判別分析，Python實現)

源代碼：

#-*- coding: UTF-8 -*-
from numpy import *
import numpy
def lda(c1,c2):
    #c1 第一類樣本，每行是一個樣本
    #c2 第二類樣本，每行是一個樣本

    #計算各類樣本的均值和所有樣本均值
    m1=mean(c1,axis=0)#第一類樣本均值
    m2=mean(c2,axis=0)#第二類樣本均值
    c=vstack((c1,c2))#所有樣本
    m=mean(c,axis=0)#所有樣本的均值

    #計算類內離散度矩陣Sw
    n1=c1.shape[0]#第一類樣本數
    print(n1);
    n2=c2.shape[0]#第二類樣本數
    #求第一類樣本的散列矩陣s1
    s1=0
    for i in range(0,n1):
        s1=s1+(c1[i,:]-m1).T*(c1[i,:]-m1)
    #求第二類樣本的散列矩陣s2
    s2=0
    for i in range(0,n2):
        s2=s2+(c2[i,:]-m2).T*(c2[i,:]-m2)
    Sw=(n1*s1+n2*s2)/(n1+n2)
    #計算類間離散度矩陣Sb
    Sb=(n1*(m-m1).T*(m-m1)+n2*(m-m2).T*(m-m2))/(n1+n2)
    #求最大特征值對應的特征向量
    eigvalue,eigvector=linalg.eig(mat(Sw).I*Sb)#特征值和特征向量
    indexVec=numpy.argsort(-eigvalue)#對eigvalue從大到小排序，返回索引
    nLargestIndex=indexVec[:1] #取出最大的特征值的索引
    W=eigvector[:,nLargestIndex] #取出最大的特征值對應的特征向量
    return W