scikit-learn系列之如何存儲和導入機器學習模型

 

 

如何存儲和導入機器學習模型

找到一個准確的機器學習模型，你的項目並沒有完成。本文中你將學習如何使用scikit-learn來存儲和導入機器學習模型。你可以把你的模型保持到文件中，然后再導入內存進行預測。

1. 用Pickle敲定你的模型

Pickle是python中一種標准的序列化對象的方法。你可以使用pickle操作來序列化你的機器學習算法，保存這種序列化的格式到一個文件中。稍后你可以導入這個文件反序列化你的模型，用它進行新的預測。以下的例子向你展示：如何使用Pima Indians onset of diabetes數據集，訓練一個logistic回歸模型，保存模型到文件，導入模型對未知數據進行預測。運行以下代碼把模型存入你工作路徑中的finalized_model.sav，導入模型，用未知數據評估模型的准確率。

# Save Model Using Pickle
import pandas
from sklearn import model_selection
from sklearn.linear_model import LogisticRegression
import pickle
url = "https://archive.ics.uci.edu/ml/machine-learning-databases/pima-indians-diabetes/pima-indians-diabetes.data"
names = ['preg', 'plas', 'pres', 'skin', 'test', 'mass', 'pedi', 'age', 'class']
dataframe = pandas.read_csv(url, names=names)
array = dataframe.values
X = array[:,0:8]
Y = array[:,8]
test_size = 0.33
seed = 7
X_train, X_test, Y_train, Y_test = model_selection.train_test_split(X, Y, test_size=test_size, random_state=seed)
# Fit the model on 33%
model = LogisticRegression()
model.fit(X_train, Y_train)
# save the model to disk
filename = 'finalized_model.sav'
pickle.dump(model, open(filename, 'wb'))

# some time later...

# load the model from disk
loaded_model = pickle.load(open(filename, 'rb'))
result = loaded_model.score(X_test, Y_test)
print(result)

2. 用joblib敲定你的模型

Joblib 是SciPy生態的一部分，為管道化python的工作提供的工具。它提供了存儲和導入python對象的工具，可以對Numpy數據結構進行有效的利用。這對於要求很多參數和存儲整個數據集的算法(比如K-Nearest Neighbors)很有幫助。以下代碼向你展示：如何使用Pima Indians onset of diabetes數據集，訓練一個logistic回歸模型，使用joblib保存模型到文件，導入模型對未知數據進行預測。運行以下代碼把模型存入你工作路徑中的finalized_model.sav，也會創建一個文件保存Numpy數組，導入模型，用未知數據評估模型的准確率。

# Save Model Using joblib
import pandas
from sklearn import model_selection
from sklearn.linear_model import LogisticRegression
from sklearn.externals import joblib
url = "https://archive.ics.uci.edu/ml/machine-learning-databases/pima-indians-diabetes/pima-indians-diabetes.data"
names = ['preg', 'plas', 'pres', 'skin', 'test', 'mass', 'pedi', 'age', 'class']
dataframe = pandas.read_csv(url, names=names)
array = dataframe.values
X = array[:,0:8]
Y = array[:,8]
test_size = 0.33
seed = 7
X_train, X_test, Y_train, Y_test = model_selection.train_test_split(X, Y, test_size=test_size, random_state=seed)
# Fit the model on 33%
model = LogisticRegression()
model.fit(X_train, Y_train)
# save the model to disk
filename = 'finalized_model.sav'
joblib.dump(model, filename)

# some time later...

# load the model from disk
loaded_model = joblib.load(filename)
result = loaded_model.score(X_test, Y_test)
print(result)

3. 保存模型的幾點提醒

當你存儲你的機器學習模型時，需要考慮以下重要問題。一定要記住，記錄下你的工具版本，以便於重構環境。

1. python的版本：記錄下python的版本。需要相同大版本號的python來序列化和反序列化模型。
2. 庫的版本：主要的庫的版本要保持一致，不僅限於Numpy和scikit-learn的版本。
3. 手動序列化：你可能想要手動的輸出你的模型參數以便於你可以直接把他們用在scikit-learn或者其他的平台。確實學習算法參數實現比算法本身實現要難得多。如果你有能力也可以自己寫代碼來導出參數。

4. 知識點：

1. model_selection.train_test_split
2. pickle.dump, pickle.load
3. joblib.dump, joblib.load

原文鏈接：Save and Load Machine Learning Models in Python with scikit-learn