機器學習之路： python 實踐 提升樹 XGBoost 分類器

git: https://github.com/linyi0604/MachineLearning

數據集被我下載到本地，可以去我的git上拿數據集

XGBoost
提升分類器
屬於集成學習模型
把成百上千個分類准確率較低的樹模型組合起來
不斷迭代,每次迭代生成一顆新的樹


下面 對泰坦尼克遇難預測
使用XGBoost模型 和 其他分類器性能進行比較

 

import pandas as pd
from sklearn.cross_validation import train_test_split
from sklearn.feature_extraction import DictVectorizer
from sklearn.ensemble import RandomForestClassifier
from xgboost import XGBClassifier

'''
XGBoost
提升分類器
    屬於集成學習模型
    把成百上千個分類准確率較低的樹模型組合起來
    不斷迭代,每次迭代生成一顆新的樹
    
    
下面 對泰坦尼克遇難預測
使用XGBoost模型 和 其他分類器性能進行比較

'''

titanic = pd.read_csv("../data/titanic/titanic.txt")
# 抽取pclass age 和 sex 作為訓練樣本
x = titanic[["pclass", "age", "sex"]]
y = titanic["survived"]
# 采集的age空的用平均數補全
x["age"].fillna(x["age"].mean(), inplace=True)

# 分割訓練數據和測試數據
x_train, x_test, y_train, y_test = train_test_split(x,
                                                    y,
                                                    test_size=0.25,
                                                    random_state=33)
# 提取字典特征 進行 向量化
vec = DictVectorizer()
x_train = vec.fit_transform(x_train.to_dict(orient="record"))
x_test = vec.transform(x_test.to_dict(orient="record"))

# 采用默認配置的隨機森林進行預測
rfc = RandomForestClassifier()
rfc.fit(x_train, y_train)
print("隨機森林預測准確率:", rfc.score(x_test, y_test))  # 0.7811550151975684

# 采用XGBoost模型進行預測
xgbc = XGBClassifier()
xgbc.fit(x_train, y_train)
print("XGBoost預測准確率:", xgbc.score(x_test, y_test))  # 0.7872340425531915