原文:吳恩達《深度學習》第五門課(3)序列模型和注意力機制

. 序列結構的各種序列 seq seq:如機器翻譯,從法文翻譯成英文,將會是下面這樣的結構,包括編碼網絡和解碼網絡。 image to sequence:比如給一幅圖像添加描述,如下圖中的 一只貓站在椅子上 。同樣包括編碼網絡和解碼網絡。 . 選擇最可能的句子 機器翻譯的本質就是一個條件語言模型,在給定輸入的條件下輸出最有可能的句子。 這里的條件語言模型與第一周講的語言模型的區別在於,前者是有輸 ...

2018-07-24 22:14 1 888 推薦指數:

查看詳情

深度學習第五(1)循環序列模型(RNN)

1.1為什么選擇序列模型 (1)序列模型廣泛應用於語音識別,音樂生成,情感分析,DNA序列分析,機器翻譯,視頻行為識別,命名實體識別等眾多領域。 (2)上面那些問題可以看成使用(x,y)作為訓練集的監督學習,但是輸入與輸出的對應關系有非常多的組合,比如一對一,多對多,一對多 ...

Sun Jul 22 00:02:00 CST 2018 0 1457
深度學習》第四(1)卷積神經網絡

1.1計算機視覺 (1)計算機視覺的應用包括圖像分類、目標檢測、圖像分割、風格遷移等,下圖展示了風格遷移案例: (2)圖像的特征量非常之大,比如一個3通道的1000*1000的照片,其特征為3 ...

Mon Jul 16 06:03:00 CST 2018 4 1624
深度學習注意力機制

一、前提 該篇為基於實現LSTM中文情感傾向分析的基礎上,為提高情感傾向預測的准確度,而引入的一個注意力機制模塊,通過翻閱相關學術文獻和其他資料所作的歸納總結。 二、注意力機制簡介 簡單來說,注意力機制與人類視覺注意力相似,正如人在看事物一樣,會選擇重點的對象,而忽略次要對象。近幾年 ...

Sun Feb 09 12:44:00 CST 2020 0 978
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM