課程二：深度學習入門
講師：David （數據分析工程師）
這門課主要介紹了很多神經網絡的基本原理，非常非常基礎的了解。
零、思維導圖預覽：
一、深度神經網絡
1.神經元工作原理
——這是生物上的神經元，然后從中抽象出來，做成 M-P神經元模式
2.神經網絡簡介
——1943 M-P神經元模型
——1956 感知機
——1986 分布式表示
由 hinton（神經網絡之父？）提出
——用6個神經元表示9個組合。
| 神經元 顏色 物件 |
紅 |
黃 |
藍 |
| 車 |
紅車 |
黃車 |
藍車 |
| 馬 |
紅馬 |
黃馬 |
藍馬 |
| 狗 |
紅狗 |
黃狗 |
藍狗 |
一開始是需要9個神經元來表示這些組合，后來提出分布式表示后，就可以使用6個神經元，再通過其兩兩組合，從何實現了9個組合，這種方法。
——1986 反向傳播算法
——1994 長短記憶網絡
——2006 深度神經網絡
——2007 卷積神經網絡
3.為什么現在深度學習這么火？
——“大”數據
目前科技發展較好，網絡上有豐富的數據。
深度學習：需要大量的數據來訓練他的能力。
——“深”模型
當前計算機的計算能力較強。
4.神經網絡分類
——前饋神經網絡
——深度神經網絡（全鏈接式）
——優化深度神經網絡
TensorFlow （較流行）、torch 、theano 、caffe 、mxnet、 pytorch
——測試：http://playground.tensorflow.org 一個用來優化深度神經網絡的工具測試
——卷積神經網絡
——處理圖片識別的問題
——循環神經網絡（RNN）
——長短記憶網絡（LSTM）
——門循環網絡（GRU）
——生產判別式網絡
二、深度學習的應用
1. 圖片識別
2. 語言識別
3. 機器翻譯
4. 圖片生成
三、如何學習深度學習
1.數學
——線性代數
——微積分
——凸優化計算方法
——概率論 等
2.機器學習
3.編程
——算法與數據結構
——python
4.深度學習
——相關資料推薦：
Deep Learning，lan Goodfellow , Yoshua ，Bengio , etc .
——論文網站推薦：域名：arXiv
——相關公開課推薦
cs231n & hinton