sklearn之train_test_split()函數各參數含義(非常全)
在機器學習中,我們通常將原始數據按照比例分割為“測試集”和“訓練集”,從 sklearn.model_selection 中調用train_test_split 函數
簡單用法如下:
X_train,X_test, y_train, y_test =sklearn.model_selection.train_test_split(train_data,train_target,test_size=0.4, random_state=0,stratify=y_train)
# train_data:所要划分的樣本特征集
# train_target:所要划分的樣本結果
# test_size:樣本占比,如果是整數的話就是樣本的數量
# random_state:是隨機數的種子。
# 隨機數種子:其實就是該組隨機數的編號,在需要重復試驗的時候,保證得到一組一樣的隨機數。比如你每次都填1,其他參數一樣的情況下你得到的隨機數組是一樣的。但填0或不填,每次都會不一樣。
stratify是為了保持split前類的分布。比如有100個數據,80個屬於A類,20個屬於B類。如果train_test_split(... test_size=0.25, stratify = y_all), 那么split之后數據如下:
training: 75個數據,其中60個屬於A類,15個屬於B類。
testing: 25個數據,其中20個屬於A類,5個屬於B類。
用了stratify參數,training集和testing集的類的比例是 A:B= 4:1,等同於split前的比例(80:20)。通常在這種類分布不平衡的情況下會用到stratify。
將stratify=X就是按照X中的比例分配
將stratify=y就是按照y中的比例分配
整體總結起來各個參數的設置及其類型如下:
主要參數說明:
*arrays:可以是列表、numpy數組、scipy稀疏矩陣或pandas的數據框
test_size:可以為浮點、整數或None,默認為None
①若為浮點時,表示測試集占總樣本的百分比
②若為整數時,表示測試樣本樣本數
③若為None時,test size自動設置成0.25
train_size:可以為浮點、整數或None,默認為None
①若為浮點時,表示訓練集占總樣本的百分比
②若為整數時,表示訓練樣本的樣本數
③若為None時,train_size自動被設置成0.75
random_state:可以為整數、RandomState實例或None,默認為None
①若為None時,每次生成的數據都是隨機,可能不一樣
②若為整數時,每次生成的數據都相同
stratify:可以為類似數組或None
①若為None時,划分出來的測試集或訓練集中,其類標簽的比例也是隨機的
②若不為None時,划分出來的測試集或訓練集中,其類標簽的比例同輸入的數組中類標簽的比例相同,可以用於處理不均衡的數據集
通過簡單栗子看看各個參數的作用:
舉例如下:
通過簡單例子看看各個參數的作用:
①test_size決定划分測試、訓練集比例
②random_state不同值獲取到不同的數據集
設置random_state=0再運行一次,結果同上述相同
設置random_state=None運行兩次,發現兩次的結果不同
③設置stratify參數,可以處理數據不平衡問題