TensorFlow的高級機器學習API(tf.estimator)可以輕松配置,訓練和評估各種機器學習模型。 在本教程中,您將使用tf.estimator構建一個神經網絡分類器,並在Iris數據集上對其進行訓練,以基於萼片/花瓣幾何學來預測花朵種類。 您將編寫代碼來執行以下五個步驟:
- 將包含Iris訓練/測試數據的CSV加載到TensorFlow數據集中
- 構建一個神經網絡分類器
- 使用訓練數據訓練模型
- 評估模型的准確性
- 分類新樣品
注:在開始本教程之前,請記住在您的機器上安裝TensorFlow。
完整的神經網絡源代碼
以下是神經網絡分類器的完整代碼:
from __future__ import absolute_import from __future__ import division from __future__ import print_function import os from six.moves.urllib.request import urlopen import numpy as np import tensorflow as tf # Data sets IRIS_TRAINING = "iris_training.csv" IRIS_TRAINING_URL = "http://download.tensorflow.org/data/iris_training.csv" IRIS_TEST = "iris_test.csv" IRIS_TEST_URL = "http://download.tensorflow.org/data/iris_test.csv" def main(): # If the training and test sets aren't stored locally, download them. if not os.path.exists(IRIS_TRAINING): raw = urlopen(IRIS_TRAINING_URL).read() with open(IRIS_TRAINING, "wb") as f: f.write(raw) if not os.path.exists(IRIS_TEST): raw = urlopen(IRIS_TEST_URL).read() with open(IRIS_TEST, "wb") as f: f.write(raw) # Load datasets. training_set = tf.contrib.learn.datasets.base.load_csv_with_header( filename=IRIS_TRAINING, target_dtype=np.int, features_dtype=np.float32) test_set = tf.contrib.learn.datasets.base.load_csv_with_header( filename=IRIS_TEST, target_dtype=np.int, features_dtype=np.float32) # Specify that all features have real-value data feature_columns = [tf.feature_column.numeric_column("x", shape=[4])] # Build 3 layer DNN with 10, 20, 10 units respectively. classifier = tf.estimator.DNNClassifier(feature_columns=feature_columns, hidden_units=[10, 20, 10], n_classes=3, model_dir="/tmp/iris_model") # Define the training inputs train_input_fn = tf.estimator.inputs.numpy_input_fn( x={"x": np.array(training_set.data)}, y=np.array(training_set.target), num_epochs=None, shuffle=True) # Train model. classifier.train(input_fn=train_input_fn, steps=2000) # Define the test inputs test_input_fn = tf.estimator.inputs.numpy_input_fn( x={"x": np.array(test_set.data)}, y=np.array(test_set.target), num_epochs=1, shuffle=False) # Evaluate accuracy. accuracy_score = classifier.evaluate(input_fn=test_input_fn)["accuracy"] print("\nTest Accuracy: {0:f}\n".format(accuracy_score)) # Classify two new flower samples. new_samples = np.array( [[6.4, 3.2, 4.5, 1.5], [5.8, 3.1, 5.0, 1.7]], dtype=np.float32) predict_input_fn = tf.estimator.inputs.numpy_input_fn( x={"x": new_samples}, num_epochs=1, shuffle=False) predictions = list(classifier.predict(input_fn=predict_input_fn)) predicted_classes = [p["classes"] for p in predictions] print( "New Samples, Class Predictions: {}\n" .format(predicted_classes)) if __name__ == "__main__": main()
以下部分詳細介紹了代碼。
將Iris CSV數據加載到TensorFlow
Iris數據集包含150行數據,包括來自三個相關鳶尾屬物種中的每一個的50個樣品:Iris setosa,Iris virginica和Iris versicolor。
From left to right, Iris setosa (by Radomil, CC BY-SA 3.0), Iris versicolor (by Dlanglois, CC BY-SA 3.0), and Iris virginica(by Frank Mayfield, CC BY-SA 2.0).
每行包含每個花樣的以下數據:萼片長度,萼片寬度,花瓣長度,花瓣寬度和花種。 花種以整數表示,其中0表示Iris setosa,1表示Iris virginica,2表示Iris versicolor。
對於本教程,Iris數據已被隨機分成兩個獨立的CSV:
- 120個樣本的訓練集(iris_training.csv)
- 30個樣本的測試集(iris_test.csv)。
開始前,首先導入所有必要的模塊,並定義下載和存儲數據集的位置:
from __future__ import absolute_import from __future__ import division from __future__ import print_function import os from six.moves.urllib.request import urlopen import tensorflow as tf import numpy as np IRIS_TRAINING = "iris_training.csv" IRIS_TRAINING_URL = "http://download.tensorflow.org/data/iris_training.csv" IRIS_TEST = "iris_test.csv" IRIS_TEST_URL = "http://download.tensorflow.org/data/iris_test.csv"
然后,如果訓練和測試集尚未存儲在本地,請下載它們。
if not os.path.exists(IRIS_TRAINING): raw = urlopen(IRIS_TRAINING_URL).read() with open(IRIS_TRAINING,'wb') as f: f.write(raw) if not os.path.exists(IRIS_TEST): raw = urlopen(IRIS_TEST_URL).read() with open(IRIS_TEST,'wb') as f: f.write(raw)
接下來,使用learn.datasets.base中的load_csv_with_header()方法將訓練集和測試集加載到數據集中。 load_csv_with_header()方法需要三個必需的參數:
filename,它將文件路徑轉換為CSV文件target_dtype,它采用數據集的目標值的numpy數據類型。features_dtype,它采用數據集特征值的numpy數據類型。
在這里,目標(你正在訓練模型來預測的值)是花的種類,它是一個從0到2的整數,所以合適的numpy數據類型是np.int:
# Load datasets. training_set = tf.contrib.learn.datasets.base.load_csv_with_header( filename=IRIS_TRAINING, target_dtype=np.int, features_dtype=np.float32) test_set = tf.contrib.learn.datasets.base.load_csv_with_header( filename=IRIS_TEST, target_dtype=np.int, features_dtype=np.float32)
tf.contrib.learn中的數據集被命名為元組;您可以通過data和target字段訪問特征數據和目標值。這里,training_set.data和training_set.target分別包含訓練集的特征數據和目標值,test_set.data和test_set.target包含測試集的特征數據和目標值。
稍后,在“將DNNClassifier安裝到Iris訓練數據”中,您將使用training_set.data和training_set.target來訓練您的模型,在“Evaluate Model Accuracy”中,您將使用test_set.data和test_set.target。但首先,您將在下一節中構建您的模型。
構建深度神經網絡分類器
tf.estimator提供了各種預定義的模型,稱為Estimators,您可以使用“開箱即用”對數據進行訓練和評估操作。在這里,您將配置深度神經網絡分類器模型以適應Iris數據。使用tf.estimator,你可以用幾行代碼實例化你的tf.estimator.DNNClassifier:
# Specify that all features have real-value data feature_columns = [tf.feature_column.numeric_column("x", shape=[4])] # Build 3 layer DNN with 10, 20, 10 units respectively. classifier = tf.estimator.DNNClassifier(feature_columns=feature_columns, hidden_units=[10, 20, 10], n_classes=3, model_dir="/tmp/iris_model")
上面的代碼首先定義模型的特征列,它指定數據集中特征的數據類型。所有的特征數據都是連續的,所以tf.feature_column.numeric_column是用來構造特征列的適當函數。數據集中有四個特征(萼片寬度,萼片高度,花瓣寬度和花瓣高度),所以相應的形狀必須設置為[4]來保存所有的數據。
然后,代碼使用以下參數創建一個DNNClassifier模型:
feature_columns = feature_columns。上面定義的一組特征列。hidden_units = [10,20,10]。三個隱藏層,分別包含10,20和10個神經元。n_classes = 3。三個目標類,代表三個鳶尾屬。model_dir =/tmp/iris_model。 TensorFlow將在模型訓練期間保存檢查點數據和TensorBoard摘要的目錄。
描述訓練輸入管道
tf.estimator API使用輸入函數,這些輸入函數創建了用於為模型生成數據的TensorFlow操作。我們可以使用tf.estimator.inputs.numpy_input_fn來產生輸入管道:
# Define the training inputs train_input_fn = tf.estimator.inputs.numpy_input_fn( x={"x": np.array(training_set.data)}, y=np.array(training_set.target), num_epochs=None, shuffle=True)
將DNNClassifier安裝到Iris訓練數據
現在,您已經配置了DNN分類器模型,可以使用train方法將其適用於Iris訓練數據。 將train_input_fn傳遞給input_fn,以及要訓練的步數(這里是2000):
# Train model. classifier.train(input_fn=train_input_fn, steps=2000)
模型的狀態保存在分類器中,這意味着如果你喜歡,可以迭代地訓練。 例如,上面的做法相當於以下內容:
classifier.train(input_fn=train_input_fn, steps=1000)
classifier.train(input_fn=train_input_fn, steps=1000)
但是,如果您希望在訓練時跟蹤模型,則可能需要使用TensorFlow SessionRunHook來執行日志記錄操作。
評估模型的准確性
您已經在Iris訓練數據上訓練了您的DNNClassifier模型; 現在,您可以使用評估方法檢查Iris測試數據的准確性。 像train一樣,evaluate需要一個輸入函數來建立它的輸入流水線。 評估返回與評估結果的字典。 以下代碼將通過Iris測試data-test_set.data和test_set.target來評估和打印結果的准確性:
# Define the test inputs test_input_fn = tf.estimator.inputs.numpy_input_fn( x={"x": np.array(test_set.data)}, y=np.array(test_set.target), num_epochs=1, shuffle=False) # Evaluate accuracy. accuracy_score = classifier.evaluate(input_fn=test_input_fn)["accuracy"] print("\nTest Accuracy: {0:f}\n".format(accuracy_score))
注意:這里numpy_input_fn的num_epochs = 1參數很重要。 test_input_fn將迭代數據一次,然后引發OutOfRangeError。 這個錯誤表示分類器停止評估,所以它會在輸入上評估一次。
當你運行完整的腳本時,它會打印出一些接近的內容:
Test Accuracy: 0.966667
您的准確性結果可能會有所不同,但應該高於90%。 對於相對較小的數據集來說很不錯了!
分類新樣品
使用估計器的predict()方法對新樣本進行分類。 例如,假設你有這兩個新的花樣:
您可以使用predict()方法預測它們的物種。 預測返回一個字符串生成器,可以很容易地轉換為列表。 以下代碼檢索並打印類預測:
# Classify two new flower samples. new_samples = np.array( [[6.4, 3.2, 4.5, 1.5], [5.8, 3.1, 5.0, 1.7]], dtype=np.float32) predict_input_fn = tf.estimator.inputs.numpy_input_fn( x={"x": new_samples}, num_epochs=1, shuffle=False) predictions = list(classifier.predict(input_fn=predict_input_fn)) predicted_classes = [p["classes"] for p in predictions] print( "New Samples, Class Predictions: {}\n" .format(predicted_classes))
你的結果應該如下所示:
New Samples, Class Predictions: [1 2]
因此,模型預測第一個樣品是Iris versicolor,第二個樣品是Iris virginica。
感謝並轉自:https://blog.csdn.net/qq_17550379/article/details/78743343
參考:https://www.jianshu.com/p/5495f87107e7
