keras—多層感知器MLP—MNIST手寫數字識別

　　一、手寫數字識別

現在就來說說如何使用神經網絡實現手寫數字識別。 在這里我使用mind manager工具繪制了要實現手寫數字識別需要的模塊以及模塊的功能： 

其中隱含層節點數量（即神經細胞數量）計算的公式（這只是經驗公式，不一定是最佳值）：  

m=n+l−−−−√+am=n+l+a 

m=log2nm=log2⁡n 

m=nl−−√m=nl 

• m: 隱含層節點數
• n: 輸入層節點數
• l：輸出層節點數
• a：1-10之間的常數

本例子當中：

• 輸入層節點n：784
• 輸出層節點：10 （表示數字 0 ~ 9）

• 隱含層選30個，訓練速度雖然快，但是准確率卻只有91% 左右，如果將這個數字變為100 或是300，其訓練速度回慢一些

  ，但准確率可以提高到93%~94% 左右。

  因為這是使用的MNIST的手寫數字訓練數據，所以它的圖像的分辨率是28 * 28，也就是有784個像素點，其下載地址為：http://yann.lecun.com/exdb/mnist/

  二、查看數據程序

• 48000作為訓練數據，12000作為驗證數據，10000作為預測數據

• #coding=utf-8
  import numpy as np             #導入模塊，numpy是擴展鏈接庫
  import pandas as pd             #類似一個本地的excel，偏向現在的非結構化的數據庫
  import tensorflow as tf
  import keras
  from keras.utils import np_utils
  np.random.seed(10)            #設置seed可以產生的隨機數據
  from keras.datasets import mnist  #導入模塊，下載讀取mnist數據
  (x_train_image,y_train_label),\
  (x_test_image,y_test_label)=mnist.load_data() #下載讀取mnist數據
  print('train data=',len(x_train_image))
  print('test data=',len(x_test_image))
  print('x_train_image:',x_train_image.shape)
  print('y_train_label:',y_train_label.shape) #查看數據
  import matplotlib.pyplot as plt
  def plot_image(image):                      #定義顯示函數
      fig=plt.gcf()
      fig.set_size_inches(2,2)           #設置顯示圖形的大小
      plt.imshow(image,cmap='binary')    #黑白灰度顯示
      plt.show()                         #開始畫圖
  y_train_label[0]                       #查看第0項label數據
  import matplotlib.pyplot as plt
  def plot_image_labels_prediction(image,lables,prediction,idx,num=10):#顯示多項數據
      fig=plt.gcf()
      fig.set_size_inches(12,14)        #設置顯示圖形的大小
      if num>25:num=25
      for i in range(0,num):            #畫出num個數字圖形
          ax=plt.subplot(5,5,i+1)       #建立subplot字圖形為5行5列
          ax.imshow(image[idx],cmap='binary')   #畫出subgraph
          title="lable="+str(lables[idx])       #設置字圖形title，顯示標簽字段
          if len(prediction)>0:                 #如果傳入了預測結果
              title+=",predict="+str(prediction[idx])     #標題
          ax.set_title(title,fontsize=10)                 #設置字圖形的標題
          ax.set_xticks([]);ax.set_yticks([])             #設置不顯示刻度
          idx+=1                               #讀取下一項
      plt.show()
  plot_image_labels_prediction(x_train_image,y_train_label,[],0,10)#查看訓練數據前10項
  plot_image_labels_prediction(x_test_image,y_test_label,[],0,10)  #查看測試數據前10項

    

  三、運行結果

• 
  
  

• 四、訓練預測識別程序

• #coding=utf-8
  #1.數據預處理
  import numpy as np             #導入模塊，numpy是擴展鏈接庫
  import pandas as pd
  import tensorflow
  import keras
  from keras.utils import np_utils
  np.random.seed(10)            #設置seed可以產生的隨機數據
  from keras.datasets import mnist  #導入模塊，下載讀取mnist數據
  (x_train_image,y_train_label),\
  (x_test_image,y_test_label)=mnist.load_data() #下載讀取mnist數據
  print('train data=',len(x_train_image))
  print('test data=',len(x_test_image))
  print('x_train_image:',x_train_image.shape)
  print('y_train_label:',y_train_label.shape)
  import matplotlib.pyplot as plt
  def plot_image(image):
      fig=plt.gcf()
      fig.set_size_inches(2,2)
      plt.imshow(image,cmap='binary')
      plt.show()
  y_train_label[0]
  import matplotlib.pyplot as plt
  def plot_image_labels_prediction(image,lables,prediction,idx,num=10):
      fig=plt.gcf()
      fig.set_size_inches(12,14)
      if num>25:num=25
      for i in range(0,num):
          ax=plt.subplot(5,5,i+1)
          ax.imshow(image[idx],cmap='binary')
          title="lable="+str(lables[idx])
          if len(prediction)>0:
              title+=",predict="+str(prediction[idx])
          ax.set_title(title,fontsize=10)
          ax.set_xticks([]);ax.set_yticks([])
          idx+=1
      plt.show()
  plot_image_labels_prediction(x_train_image,y_train_label,[],0,10)
  plot_image_labels_prediction(x_test_image,y_test_label,[],0,10)
  x_Train=x_train_image.reshape(60000,784).astype('float32') #以reshape轉化成784個float
  x_Test=x_test_image.reshape(10000,784).astype('float32')
  x_Train_normalize=x_Train/255    #將features標准化
  x_Test_normalize=x_Test/255
  y_Train_OneHot=np_utils.to_categorical(y_train_label)#將訓練數據和測試數據的label進行one-hot encoding轉化
  y_Test_OneHot=np_utils.to_categorical(y_test_label)
  #2.建立模型
  from keras.models import Sequential #可以通過Sequential模型傳遞一個layer的list來構造該模型,序慣模型是多個網絡層的線性堆疊
  from keras.layers import Dense    #全連接層
  model=Sequential()
  #建立輸入層、隱藏層
  model.add(Dense(units=256,
                  input_dim=784,
                  kernel_initializer='normal',
                  activation='relu'))
  #建立輸出層
  model.add(Dense(units=10,
                  kernel_initializer='normal',
                  activation='softmax'))
  print(model.summary())
  #3、進行訓練
  #對訓練模型進行設置，損失函數、優化器、權值
  model.compile(loss='categorical_crossentropy',
                optimizer='adam',metrics=['accuracy'])
  # 設置訓練與驗證數據比例，80%訓練，20%測試，執行10個訓練周期，每一個周期200個數據，顯示訓練過程2次
  train_history=model.fit(x=x_Train_normalize,
                          y=y_Train_OneHot,validation_split=0.2,
                          epochs=10,batch_size=200,verbose=2)
  #顯示訓練過程
  import matplotlib.pyplot as plt
  def show_train_history(train_history,train,validation):
      plt.plot(train_history.history[train])
      plt.plot(train_history.history[validation])
      plt.title('Train History')
      plt.ylabel(train)
      plt.xlabel('Epoch')
      plt.legend(['train','validation'],loc='upper left')    #顯示左上角標簽
      plt.show()
  show_train_history(train_history,'acc','val_acc')   #畫出准確率評估結果
  show_train_history(train_history,'loss','val_loss') #畫出誤差執行結果
  #以測試數據評估模型准確率
  scores=model.evaluate(x_Test_normalize,y_Test_OneHot)   #創建變量存儲評估后的准確率數據，（特征值，真實值）
  print()
  print('accuracy',scores[1])
  #進行預測
  prediction=model.predict_classes(x_Test)
  prediction
  plot_image_labels_prediction(x_test_image,y_test_label,prediction,idx=340)

   

   

• 五、運行結果

• 

  

•  

   

   

• 

  

• 評估模型准確率結果為：0.9754

•  

   

• 預測結果：有一個潦草的5預測錯誤為3
•