MNIST手寫字母識別(一）

這是個分類應用入門：使用softmax分類，簡單來說就是概論轉化為0-1區間的一個數字

讀取數據集

# 導入相關庫
import tensorflow as tf
from tensorflow.examples.tutorials.mnist import input_data
mnist=input_data.read_data_sets("D:/MNIST",one_hot=True)

 

 獨熱編碼（one hot encoding)

一種稀疏向量，其中：一個元素設為1，所有其他元素均設為0

獨熱編碼常用於表示擁有有限個可能值的字符串或標識符

工作流程：

import tensorflow as tf
import matplotlib.pyplot as plt
import numpy as np
import tensorflow.examples.tutorials.mnist.input_data as input_data　　
mnist=input_data.read_data_sets("MNIST_data",one_hot=True)　　#讀取數據
import os　　#可加可不加，屏蔽通知消息
os.environ['TF_CPP_MIN_LOG_LEVEL'] = '2'

print('訓練集 train 數量：',mnist.train.num_examples,
      ',驗證集 validation 數量：',mnist.validation.num_examples,
      ',測試集 test 數量：',mnist.test.num_examples)

# print('train images shape：',mnist.train.images.shape,
#       'labels shaple：',mnist.train.labels.shape)

# print((mnist.train.images[0].reshape(28,28)))
# print(len(mnist.train.images[0].shape))

# def plot_image(image):
#     plt.imshow(image.reshape(28,28))
#     plt.show()
#
# plot_image(mnist.train.images[1])
# plt.imshow(mnist.train.images[20000].reshape(14,56))
# plt.show()

# print(mnist.train.labels[1])
# print(np.argmax(mnist.train.labels[1]))
# mnist_no_one_hot=input_data.read_data_sets("MNIST_data",one_hot=False)
# print(mnist_no_one_hot.train.labels[0:10])
#
# print('validation images:',mnist.validation.images.shape,'labels:',mnist.validation.labels.shape)
#
# print('test images:',mnist.test.images.shape,'labels:',mnist.test.labels.shape)
#
# batch_images_xs,batch_labels_ys=mnist.train.next_batch(batch_size=10)
# print(mnist.train.labels[0:10])
# # print(batch_labels_ys)

# mnist中每張圖片共有28*28=784個像素點
x=tf.placeholder(tf.float32,[None,784])
# 0-9一共10個數字->10個類別
y=tf.placeholder(tf.float32,[None,10])

# 定義模型變量(以正態分布的隨機數初始化權重W，以常數0初始化偏置b)
W=tf.Variable(tf.random_normal([784,10],mean=0.0,stddev=1.0))
b=tf.Variable(tf.zeros([10]))

# 前向計算
forward=tf.matmul(x,W)+b
#softmax分類
pred=tf.nn.softmax(forward)
# 定義交叉熵損失函數
loss_function=tf.reduce_mean(-tf.reduce_sum(y*tf.log(pred),reduction_indices=1))

# 設置訓練參數
train_epochs=150 # 訓練輪數
batch_size=50 # 單次訓練樣本數（批次大小）
total_batch=int(mnist.train.num_examples/batch_size) # 一輪訓練的批次數
display_step=1 # 顯示粒度
learning_rate=0.04 # 學習率

# 分類模型構建與訓練實踐
#選擇優化器,梯度下降
optimizer=tf.train.GradientDescentOptimizer(learning_rate).minimize(loss_function)

# 定義准確率，檢查預測類別tf.argmax(pred,1)與實際類別tf.argmax(y,1)的匹配情況
correct_prediction=tf.equal(tf.argmax(pred,1),tf.argmax(y,1))
# 准確率，將布爾值轉化為浮點數，並計算平均值
accuracy=tf.reduce_mean(tf.cast(correct_prediction,tf.float32))

# 聲明會話
sess=tf.Session()
init=tf.global_variables_initializer()
sess.run(init)

# 訓練模型
for epoch in range(train_epochs):
      for batch in range(total_batch):
            xs, ys = mnist.train.next_batch(batch_size)  # 讀取批次數據
            sess.run(optimizer, feed_dict={x: xs, y: ys})  # 執行批次訓練

      # total_batch批次訓練完成之后，使用驗證數據計算誤差與准確率，驗證集沒有分批。
      loss, acc = sess.run([loss_function, accuracy],feed_dict={x: mnist.validation.images, y: mnist.validation.labels})

      # 打印訓練過程中的詳細信息
      if (epoch + 1)% display_step==0:
            print("train_epoch:", '%02d' % (epoch + 1), "loss=", "{:.9f}".format(loss),"accuracy=", '{:.4f}'.format(acc))
print("train finished!")

# 在測試集上評估模型准確率
accu_test=sess.run(accuracy,feed_dict={x:mnist.test.images,y:mnist.test.labels})
print("test accuracy:",accu_test)

# 在驗證集上評估模型准確率
accu_validation=sess.run(accuracy,feed_dict={x:mnist.validation.images,y:mnist.validation.labels})
print("validatin accuracy:",accu_validation)

# 在訓練集上評估模型准確率
accu_train=sess.run(accuracy,feed_dict={x:mnist.train.images,y:mnist.train.labels})
print("tarin accuracy:",accu_train)

# 由於pred預測結果是one-hot編碼格式，所以需要轉化為0~9數字
prediction_result=sess.run(tf.argmax(pred,1),feed_dict={x:mnist.test.images})

# 查看結果中的前十項
prediction_result[0:10]
# 定義可視化函數

def plt_images_labels_prediction(images,  # 圖像列表
                                  labels,  # 標簽列表
                                  prediction,  # 預測值列表
                                  index,  # 從第index個開始顯示
                                  num=10):  # 缺省依次顯示10副
      fig = plt.gcf()  # 獲取當前圖表，get current figure
      fig.set_size_inches(10, 12)  # 1英寸等於2.54cm
      if num > 25:
            num = 25  # 最多顯示25個子圖
      for i in range(0, num):
            ax = plt.subplot(5, 5, i + 1)  # 獲取當前要處理的子圖

            ax.imshow(np.reshape(images[index], (28, 28)),
                      cmap='binary')  # 顯示第index個圖像
            title = "labels=" + str(np.argmax(labels[index]))  # 構建該圖上要顯示的title信息
            if len(prediction) > 0:
                  title += ",predict=" + str(prediction[index])

            ax.set_title(title)  # 顯示圖上的title
            ax.set_xticks([])  # 不顯示坐標軸
            ax.set_yticks([])
            index += 1
      plt.show()
# 可視化預測結果
plt_images_labels_prediction(mnist.test.images,
                             mnist.test.labels,
                             prediction_result,10,25)

 

大概就結束了，相當於機器學習的一個helloworld