深度學習基礎篇之邏輯回歸擬合二維數據

　　從今天起，我會在這里記錄一下學習深度學習所留下的足跡，目的也很簡單，手頭有近3w個已經標記好正確值得驗證碼，想要從頭訓練出一個可以使用的模型，

雖然我也知道網上的相關模型和demo很多，但是還是非常希望自己可以親手搞一個能用的出來，學習書籍主要是：李金洪老師的《深度學習之Tensorflow 入門、原理與進階實戰》。

另外，在我將驗證碼識別模型訓練出來后也會將源代碼、模型，以及近3w個驗證碼完全開源出來。共勉之。

　　

#!/usr/bin/env python
# -*- coding: utf-8 -*-
# @Time    : 2019/9/23 21:27
# @Author  : SongSa
# @Desc    : 
# @File    : 擬合二維數據.py
# @Software: PyCharm

import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt

"""
深度學習分為4個步驟：
    准備數據
    搭建模型
    迭代訓練
    使用模型
"""

########准備數據########
train_X = np.linspace(-1, 1, 100)
train_Y = 2 * train_X + np.random.randn(100) * 0.3  # y = 2x  但是加入了噪聲
plt.plot(train_X, train_Y, 'ro', label='original data')  # 顯示模擬的數據點
plt.legend()  # 擁有顯示圖例label
plt.show()


plotdata = {"batchsize":[], "loss":[]}
def moving_average(a, w=10):
    if len(a) < w:
        return a[:]
    return [val if idx < w else sum(a[(idx-w):idx])/w for idx, val in enumerate(a)]


########搭建模型########
# 模型分為兩個方向：正向和反向
# 創建模型
X = tf.placeholder("float")  # 占位符
Y = tf.placeholder("float")
# 模型參數
W = tf.Variable(tf.random_normal([1]), name="weight")  # W被初始化為[-1, 1]的隨機數，形狀為一維的數字
b = tf.Variable(tf.zeros([1]), name="bias")  # b的初始化為0
# 前向結構
z = tf.multiply(X, W) + b  # tf.multiply()是相乘的函數  z = X * W + b

# 反向搭建模型
# 神經網絡在訓練時數據流向有兩個方向，先通過正向生成一個值，然后觀察其與真實值的差距，再通過反向過程將里邊的參數進行調整，
# 接着在生成正向預測值來與真實值進行比對，如此循環，知道將參數調整為合適值為止，反向傳播會引入一些算法來實現對參數的正確調整。
cost = tf.reduce_mean(tf.square(Y - z))  # cost等於生成值與真實值的平方差
# tf.reduce_mean()  用於計算張量沿着指定軸的平均值
# tf.square() 用於計算Y-z的平方
learning_rate = 0.01  # 學習率 (值越大表明調整的速度越大，但不精准，反之亦然)
optimizer = tf.train.GradientDescentOptimizer(learning_rate).minimize(cost)  # 封裝好的梯度下降算法


########迭代訓練########
# Tensorflow中的任務是通過session來進行的
init = tf.global_variables_initializer()  # 初始化所有變量
#定義參數
training_epochs = 20
display_stop = 2
# 啟動session
with tf.Session() as sess:
    sess.run(init)
    plotdata = {"batchsize":[], "loss":[]}  # 存放批次值和損失值
    for epoch in range(training_epochs):
        for (x, y) in zip(train_X, train_Y):
            sess.run(optimizer, feed_dict={X:x, Y:y})

        # 顯示訓練中的詳細信息
        if epoch % display_stop == 0:
            loss = sess.run(cost, feed_dict={X:train_X, Y:train_Y})
            print("Epoch:", epoch+1, "cost=", loss, "W=", sess.run(W), "b=", sess.run(b))
            if not (loss == "NA"):
                plotdata['batchsize'].append(epoch)
                plotdata["loss"].append(loss)

    print("Finished!")
    print("cost=", sess.run(cost, feed_dict={X:train_X, Y:train_Y}), "W=", sess.run(W), "b=", sess.run(b))

    # 訓練模型可視化
    plt.plot(train_X, train_Y, 'ro', label="Original data")
    plt.plot(train_X, sess.run(W) * train_X + sess.run(b), label="Fittedline")
    plt.legend()
    plt.show()

    plotdata['avgloss'] = moving_average(plotdata["loss"])
    plt.figure(1)
    plt.subplot(211)
    plt.plot(plotdata["batchsize"], plotdata['avgloss'], 'b--')
    plt.ylabel("Loss")
    plt.title("Minibatch run vs.  Training loss")
    plt.show()


########使用模型########
    print('使用模型：\n\n')
    print("x=0.2, z=", sess.run(z, feed_dict={X:0.2}))

最后，打個廣告: 想了解更多Python關於爬蟲、數據分析的內容，獲取大量爬蟲爬取到的源數據，歡迎大家關注我的微信公眾號：悟道Python