原文:吳恩達《深度學習》第五門課(1)循環序列模型(RNN)

. 為什么選擇序列模型 序列模型廣泛應用於語音識別,音樂生成,情感分析,DNA序列分析,機器翻譯,視頻行為識別,命名實體識別等眾多領域。 上面那些問題可以看成使用 x,y 作為訓練集的監督學習,但是輸入與輸出的對應關系有非常多的組合,比如一對一,多對多,一對多,多對一,多對多 個數不同 等情況來針對不同的應用。 . 數學符號 x i lt t gt 前面的i表示第i個訓練樣本,t表示某個序列樣本 ...

2018-07-21 16:02 0 1457 推薦指數:

查看詳情

深度學習第五(3)序列模型和注意力機制

3.1序列結構的各種序列 (1)seq2seq:如機器翻譯,從法文翻譯成英文,將會是下面這樣的結構,包括編碼網絡和解碼網絡。 (2)image to sequence:比如給一幅圖像添加描述,如下圖中的“一只貓站在椅子上”。同樣包括編碼網絡和解碼網絡。 3.2選擇最可能的句子 ...

Wed Jul 25 06:14:00 CST 2018 1 888
深度學習》第一(2)神經網絡的編程基礎

2.1二分類 (1)以一張三通道的64×64的圖片做二分類識別是否是毛,輸出y為1時認為是貓,為0時認為不是貓: y輸出是一個數,x輸入是64*64*3=12288的向量。 (2)以下是一些符號定義(數據集變成矩陣之后進行矩陣運算代替循環運算,更加高效) x:表示一個nx維數據,維度 ...

Mon Jul 09 01:42:00 CST 2018 2 781
深度學習》第四(1)卷積神經網絡

1.1計算機視覺 (1)計算機視覺的應用包括圖像分類、目標檢測、圖像分割、風格遷移等,下圖展示了風格遷移案例: (2)圖像的特征量非常之大,比如一個3通道的1000*1000的照片,其特征為3 ...

Mon Jul 16 06:03:00 CST 2018 4 1624
深度學習》第四(3)目標檢測(Object detection)

3.1目標定位 (1)案例1:在構建自動駕駛時,需要定位出照片中的行人、汽車、摩托車和背景,即四個類別。可以設置這樣的輸出,首先第一個元素pc=1表示有要定位的物體,那么用另外四個輸出元素表示定位框 ...

Wed Jul 18 07:15:00 CST 2018 2 1696
深度學習筆記(deeplearning.ai)之循環神經網絡(RNN)(三)

1. 導讀 本節內容介紹普通RNN的弊端,從而引入各種變體RNN,主要講述GRU與LSTM的工作原理。 事先聲明,本人采用ng在課堂上所使用的符號系統,與某些學術文獻上的命名有所不同,不過核心思想都是相同的。 2. 普通RNN的弊端 在NLP中,句子內部以及句子之間可能存在很長的依賴 ...

Mon Feb 19 22:59:00 CST 2018 0 1886
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM