Sequence-to-Sequence 論文精讀（多層LSTM）

機器翻譯：

相關方法：

1、通過RNN生成序列

 

 Encoder：普通的LSTM，將一句話映射成一個向量C

Decoder：對於隱藏層：

 

 

　　　　　對於輸出層：

 

 

 二、

Encoder：單層雙向的LSTM

Decoder：對於輸出：

 

 

　　　　對於Ci：

 

 

 

 

 

 

 

 創新點：

1、Encoder和Decoder中的LSTM不一樣

2、使用了4層深的LSTM -- 提高性能

3、輸入逆序---為什么？使源語言第一個詞和目標語言第一個詞足夠近，這樣能保證保留更多信息，翻譯的更加准確。