1.標准卷積神經網絡 標准的卷積神經網絡由輸入層、卷積層（convolutional layer）、下采樣層（downsampling layer）、全連接層（fully—connected layer）和輸出層構成。 卷積層也稱為檢測層 下采樣層也稱為池化層（pooling ...

上一篇文章我們介紹的線性模型的求解，但有很多模型是非線性的，比如： 這里表示有兩個輸入，一個輸出。 現在我們已經不能采用y=ax+b的形式去定義一個函數了，我們只能知道輸入變量的數量，但不知道某個變量存在幾次方的分量，所以我們采用一個神經網絡去定義一個函數。 我們假設 ...

在神經網絡中，廣泛的使用反向傳播和梯度下降算法調整神經網絡中參數的取值。 梯度下降和學習率： 　　假設用 θ 來表示神經網絡中的參數， J(θ) 表示在給定參數下訓練數據集上損失函數的大小。 　　那么整個優化過程就是尋找一個參數θ， 使得J(θ) 的值 ...

1.循環神經網絡的標准模型 前饋神經網絡能夠用來建立數據之間的映射關系，但是不能用來分析過去信號的時間依賴關系，而且要求輸入樣本的長度固定 循環神經網絡是一種在前饋神經網絡中增加了分虧鏈接的神經網絡，能夠產生對過去數據的記憶狀態，所以可以用於對序列數據的處理，並建立不同時段 ...

從這篇文章開始，終於要干點正兒八經的工作了，前面都是准備工作。這次我們要解決機器學習的經典問題，MNIST手寫數字識別。 首先介紹一下數據集。請首先解壓：TF_Net\Asset\mnist_png.tar.gz文件 文件夾內包括兩個文件夾：training和validation ...

運行 TensorFlow打開一個 python 終端: 使用 TensorFlow, 你必須明白 TensorFlow:• 使用圖 (graph) 來表示計算任務.• 在被稱之為 會話 (Session) 的上下文 (context) 中執行圖.• 使用 tensor 表示數據 ...

上一篇文章我們介紹了通過神經網絡來處理一個非線性回歸的問題，這次我們將采用神經網絡來處理一個多元分類的問題。 這次我們解決這樣一個問題：輸入一個人的身高和體重的數據，程序判斷出這個人的身材狀況，一共三個類別：偏瘦、正常、偏胖。 處理流程如下： 1、收集數據 2、構建神經網絡 3、訓練 ...

"如果一個算法在MNIST上不work，那么它就根本沒法用；而如果它在MNIST上work，它在其他數據上也可能不work"。 ...