tensorflow estimator API小栗子


TensorFlow的高級機器學習API(tf.estimator)可以輕松配置,訓練和評估各種機器學習模型。 在本教程中,您將使用tf.estimator構建一個神經網絡分類器,並在Iris數據集上對其進行訓練,以基於萼片/花瓣幾何學來預測花朵種類。 您將編寫代碼來執行以下五個步驟:

  • 將包含Iris訓練/測試數據的CSV加載到TensorFlow數據集中
  • 構建一個神經網絡分類器
  • 使用訓練數據訓練模型
  • 評估模型的准確性
  • 分類新樣品

注:在開始本教程之前,請記住在您的機器上安裝TensorFlow。

完整的神經網絡源代碼

以下是神經網絡分類器的完整代碼:

from __future__ import absolute_import
from __future__ import division
from __future__ import print_function

import os
from six.moves.urllib.request import urlopen

import numpy as np
import tensorflow as tf

# Data sets
IRIS_TRAINING = "iris_training.csv"
IRIS_TRAINING_URL = "http://download.tensorflow.org/data/iris_training.csv"

IRIS_TEST = "iris_test.csv"
IRIS_TEST_URL = "http://download.tensorflow.org/data/iris_test.csv"

def main():
  # If the training and test sets aren't stored locally, download them.
  if not os.path.exists(IRIS_TRAINING):
    raw = urlopen(IRIS_TRAINING_URL).read()
    with open(IRIS_TRAINING, "wb") as f:
      f.write(raw)

  if not os.path.exists(IRIS_TEST):
    raw = urlopen(IRIS_TEST_URL).read()
    with open(IRIS_TEST, "wb") as f:
      f.write(raw)

  # Load datasets.
  training_set = tf.contrib.learn.datasets.base.load_csv_with_header(
      filename=IRIS_TRAINING,
      target_dtype=np.int,
      features_dtype=np.float32)
  test_set = tf.contrib.learn.datasets.base.load_csv_with_header(
      filename=IRIS_TEST,
      target_dtype=np.int,
      features_dtype=np.float32)

  # Specify that all features have real-value data
  feature_columns = [tf.feature_column.numeric_column("x", shape=[4])]

  # Build 3 layer DNN with 10, 20, 10 units respectively.
  classifier = tf.estimator.DNNClassifier(feature_columns=feature_columns,
                                          hidden_units=[10, 20, 10],
                                          n_classes=3,
                                          model_dir="/tmp/iris_model")
  # Define the training inputs
  train_input_fn = tf.estimator.inputs.numpy_input_fn(
      x={"x": np.array(training_set.data)},
      y=np.array(training_set.target),
      num_epochs=None,
      shuffle=True)

  # Train model.
  classifier.train(input_fn=train_input_fn, steps=2000)

  # Define the test inputs
  test_input_fn = tf.estimator.inputs.numpy_input_fn(
      x={"x": np.array(test_set.data)},
      y=np.array(test_set.target),
      num_epochs=1,
      shuffle=False)

  # Evaluate accuracy.
  accuracy_score = classifier.evaluate(input_fn=test_input_fn)["accuracy"]

  print("\nTest Accuracy: {0:f}\n".format(accuracy_score))

  # Classify two new flower samples.
  new_samples = np.array(
      [[6.4, 3.2, 4.5, 1.5],
       [5.8, 3.1, 5.0, 1.7]], dtype=np.float32)
  predict_input_fn = tf.estimator.inputs.numpy_input_fn(
      x={"x": new_samples},
      num_epochs=1,
      shuffle=False)

  predictions = list(classifier.predict(input_fn=predict_input_fn))
  predicted_classes = [p["classes"] for p in predictions]

  print(
      "New Samples, Class Predictions:    {}\n"
      .format(predicted_classes))

if __name__ == "__main__":
    main()

 

以下部分詳細介紹了代碼。

將Iris CSV數據加載到TensorFlow

Iris數據集包含150行數據,包括來自三個相關鳶尾屬物種中的每一個的50個樣品:Iris setosa,Iris virginica和Iris versicolor。

 



 

From left to right, Iris setosa (by Radomil, CC BY-SA 3.0), Iris versicolor (by Dlanglois, CC BY-SA 3.0), and Iris virginica(by Frank Mayfield, CC BY-SA 2.0).

每行包含每個花樣的以下數據:萼片長度,萼片寬度,花瓣長度,花瓣寬度和花種。 花種以整數表示,其中0表示Iris setosa,1表示Iris virginica,2表示Iris versicolor。

對於本教程,Iris數據已被隨機分成兩個獨立的CSV:

開始前,首先導入所有必要的模塊,並定義下載和存儲數據集的位置:

from __future__ import absolute_import
from __future__ import division
from __future__ import print_function

import os
from six.moves.urllib.request import urlopen

import tensorflow as tf
import numpy as np

IRIS_TRAINING = "iris_training.csv"
IRIS_TRAINING_URL = "http://download.tensorflow.org/data/iris_training.csv"

IRIS_TEST = "iris_test.csv"
IRIS_TEST_URL = "http://download.tensorflow.org/data/iris_test.csv"

然后,如果訓練和測試集尚未存儲在本地,請下載它們。

if not os.path.exists(IRIS_TRAINING):
  raw = urlopen(IRIS_TRAINING_URL).read()
  with open(IRIS_TRAINING,'wb') as f:
    f.write(raw)

if not os.path.exists(IRIS_TEST):
  raw = urlopen(IRIS_TEST_URL).read()
  with open(IRIS_TEST,'wb') as f:
    f.write(raw)

接下來,使用learn.datasets.base中的load_csv_with_header()方法將訓練集和測試集加載到數據集中。 load_csv_with_header()方法需要三個必需的參數:

  • filename,它將文件路徑轉換為CSV文件
  • target_dtype,它采用數據集的目標值的numpy數據類型。
  • features_dtype,它采用數據集特征值的numpy數據類型。

在這里,目標(你正在訓練模型來預測的值)是花的種類,它是一個從0到2的整數,所以合適的numpy數據類型是np.int:

# Load datasets.
training_set = tf.contrib.learn.datasets.base.load_csv_with_header(
    filename=IRIS_TRAINING,
    target_dtype=np.int,
    features_dtype=np.float32)
test_set = tf.contrib.learn.datasets.base.load_csv_with_header(
    filename=IRIS_TEST,
    target_dtype=np.int,
    features_dtype=np.float32)

tf.contrib.learn中的數據集被命名為元組;您可以通過datatarget字段訪問特征數據和目標值。這里,training_set.datatraining_set.target分別包含訓練集的特征數據和目標值,test_set.datatest_set.target包含測試集的特征數據和目標值。

稍后,在“將DNNClassifier安裝到Iris訓練數據”中,您將使用training_set.datatraining_set.target來訓練您的模型,在“Evaluate Model Accuracy”中,您將使用test_set.datatest_set.target。但首先,您將在下一節中構建您的模型。

構建深度神經網絡分類器

tf.estimator提供了各種預定義的模型,稱為Estimators,您可以使用“開箱即用”對數據進行訓練和評估操作。在這里,您將配置深度神經網絡分類器模型以適應Iris數據。使用tf.estimator,你可以用幾行代碼實例化你的tf.estimator.DNNClassifier

# Specify that all features have real-value data
feature_columns = [tf.feature_column.numeric_column("x", shape=[4])]

# Build 3 layer DNN with 10, 20, 10 units respectively.
classifier = tf.estimator.DNNClassifier(feature_columns=feature_columns,
                                        hidden_units=[10, 20, 10],
                                        n_classes=3,
                                        model_dir="/tmp/iris_model")

上面的代碼首先定義模型的特征列,它指定數據集中特征的數據類型。所有的特征數據都是連續的,所以tf.feature_column.numeric_column是用來構造特征列的適當函數。數據集中有四個特征(萼片寬度,萼片高度,花瓣寬度和花瓣高度),所以相應的形狀必須設置為[4]來保存所有的數據。

然后,代碼使用以下參數創建一個DNNClassifier模型:

  • feature_columns = feature_columns。上面定義的一組特征列。
  • hidden_units = [10,20,10]。三個隱藏層,分別包含10,20和10個神經元。
  • n_classes = 3。三個目標類,代表三個鳶尾屬。
  • model_dir =/tmp/iris_model。 TensorFlow將在模型訓練期間保存檢查點數據和TensorBoard摘要的目錄。

描述訓練輸入管道

tf.estimator API使用輸入函數,這些輸入函數創建了用於為模型生成數據的TensorFlow操作。我們可以使用tf.estimator.inputs.numpy_input_fn來產生輸入管道:

# Define the training inputs
train_input_fn = tf.estimator.inputs.numpy_input_fn(
    x={"x": np.array(training_set.data)},
    y=np.array(training_set.target),
    num_epochs=None,
    shuffle=True)

將DNNClassifier安裝到Iris訓練數據

現在,您已經配置了DNN分類器模型,可以使用train方法將其適用於Iris訓練數據。 將train_input_fn傳遞給input_fn,以及要訓練的步數(這里是2000):

# Train model.
classifier.train(input_fn=train_input_fn, steps=2000)

模型的狀態保存在分類器中,這意味着如果你喜歡,可以迭代地訓練。 例如,上面的做法相當於以下內容:

classifier.train(input_fn=train_input_fn, steps=1000)
classifier.train(input_fn=train_input_fn, steps=1000)

但是,如果您希望在訓練時跟蹤模型,則可能需要使用TensorFlow SessionRunHook來執行日志記錄操作。

評估模型的准確性

您已經在Iris訓練數據上訓練了您的DNNClassifier模型; 現在,您可以使用評估方法檢查Iris測試數據的准確性。 像train一樣,evaluate需要一個輸入函數來建立它的輸入流水線。 評估返回與評估結果的字典。 以下代碼將通過Iris測試data-test_set.datatest_set.target來評估和打印結果的准確性:

# Define the test inputs
test_input_fn = tf.estimator.inputs.numpy_input_fn(
    x={"x": np.array(test_set.data)},
    y=np.array(test_set.target),
    num_epochs=1,
    shuffle=False)

# Evaluate accuracy.
accuracy_score = classifier.evaluate(input_fn=test_input_fn)["accuracy"]

print("\nTest Accuracy: {0:f}\n".format(accuracy_score))

注意:這里numpy_input_fn的num_epochs = 1參數很重要。 test_input_fn將迭代數據一次,然后引發OutOfRangeError。 這個錯誤表示分類器停止評估,所以它會在輸入上評估一次。

當你運行完整的腳本時,它會打印出一些接近的內容:

Test Accuracy: 0.966667
您的准確性結果可能會有所不同,但應該高於90%。 對於相對較小的數據集來說很不錯了!

分類新樣品

使用估計器的predict()方法對新樣本進行分類。 例如,假設你有這兩個新的花樣:

 



 

您可以使用predict()方法預測它們的物種。 預測返回一個字符串生成器,可以很容易地轉換為列表。 以下代碼檢索並打印類預測:

# Classify two new flower samples.
new_samples = np.array(
    [[6.4, 3.2, 4.5, 1.5],
     [5.8, 3.1, 5.0, 1.7]], dtype=np.float32)
predict_input_fn = tf.estimator.inputs.numpy_input_fn(
    x={"x": new_samples},
    num_epochs=1,
    shuffle=False)

predictions = list(classifier.predict(input_fn=predict_input_fn))
predicted_classes = [p["classes"] for p in predictions]

print(
    "New Samples, Class Predictions:    {}\n"
    .format(predicted_classes))

你的結果應該如下所示:

New Samples, Class Predictions:    [1 2]

因此,模型預測第一個樣品是Iris versicolor,第二個樣品是Iris virginica

 

 

 

 

 

感謝並轉自:https://blog.csdn.net/qq_17550379/article/details/78743343

參考:https://www.jianshu.com/p/5495f87107e7

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM