sklearn中的朴素貝葉斯模型及其應用

1.使用朴素貝葉斯模型對iris數據集進行花分類

嘗試使用3種不同類型的朴素貝葉斯：

from sklearn.datasets import load_iris
iris=load_iris()

from sklearn.naive_bayes import GaussianNB #高斯分布型
gnb=GaussianNB() #構造
pred=gnb.fit(iris.data,iris.target) #擬合
y_pred=pred.predict(iris.data) #預測

print(iris.data.shape[0],(iris.target !=y_pred).sum()) #iris.target科學家給出的分類，y_pred建模型產生的預測，比較兩個有什么不一樣，
                                                       #然后將不同的值的個數求出來，150個結果中，有6個和科學家的值不同

 

from sklearn.naive_bayes import BernoulliNB #伯努利型
gnb=BernoulliNB() 
pred=gnb.fit(iris.data,iris.target)
y_pred=pred.predict(iris.data)

print(iris.data.shape[0],(iris.target !=y_pred).sum()) #150個結果中，有100個值和科學家的值不同，說明此模型不合適

from sklearn.naive_bayes import MultinomialNB #多項式型
gnb=MultinomialNB()
pred=gnb.fit(iris.data,iris.target)
y_pred=pred.predict(iris.data)
print(iris.data.shape[0],(iris.target !=y_pred).sum())

#2.使用sklearn.model_selection.cross_val_score()，對模型進行驗證。

from sklearn.naive_bayes import BernoulliNB
from sklearn.model_selection import cross_val_score
gnb=BernoulliNB()
scores=cross_val_score(gnb,iris.data,iris.target,cv=10) #將數據集分為10份，其中9份作為訓練模型，1份用來做評估
                                                        #score是交叉驗證的對象
                                                        #結果是返回准確率的概念，結果是33.3%
print("Accuracy:%.3f"%scores.mean())

from sklearn.naive_bayes import MultinomialNB
gnb=MultinomialNB()
scores=cross_val_score(gnb,iris.data,iris.target,cv=10) 
print("Accuracy:%.3f"%scores.mean())

from sklearn.naive_bayes import GaussianNB
gnb=GaussianNB()
scores=cross_val_score(gnb,iris.data,iris.target,cv=10)
print("Accuracy:%.3f"%scores.mean())

3. 垃圾郵件分類

數據准備：

用csv讀取郵件數據，分解出郵件類別及郵件內容。
對郵件內容進行預處理：去掉長度小於3的詞，去掉沒有語義的詞等

 

import csv
file_path=r'I:\杜老師\SMSSpamCollectionjs.txt'
sms=open(file_path,'r',encoding='utf-8') #將打開的數據放在sms
sms_data=[]
sms_label=[] #此將會作為分類結果傳到模型里邊
csv_reader=csv.reader(sms,delimiter='\t') #用csv.reader讀取出來，讀取的對象是打開的sms,以'\t'tab鍵分隔字段，
#因為文本里沒有逗號，是以空格分開的
for line in csv_reader: #逐行讀取數據，一行是一個郵件
    sms_label.append(line[0]) #一行有兩個字段，第一個字段是郵件的類別，將郵件的類別放到一個列表里邊
    sms_data.append(preprocessing(line[1]))
sms.close()

sms_data=str(sms_data)#將列表轉化為字符串
sms_data=sms_data.lower()#對大小寫進行處理
sms_data=sms_data.split()#變成列表的形式
sms_data1=[]#存放處理后的內容
i=0
for i in sms_data:#去掉長度小於3的單詞
    if len(i)>4:
        sms_data1.append(i)
        continue