TensorFlow seq2seq解讀

github鏈接 注:1.2最新版本不兼容,用命令pip3 install tensorflow==1.0.0 在translate.py文件里,是調用各種函數;在seq2seq_model.py文件里,是定義了這個model的具體輸入、輸出、中間參數是怎樣的init,以及獲取每個epoch ...

Fri Nov 03 19:06:00 CST 2017 0 4253
Dynamic seq2seq in tensorflow

v1.0中 tensorflow漸漸廢棄了老的非dynamic的seq2seq接口,已經放到 tf.contrib.legacy_seq2seq目錄下面。 tf.contrib.seq2seq下面的實現都是dynamic seq2seq接口。 按照google的rd說法下個月將會給出更加完 ...

Wed Jan 25 13:38:00 CST 2017 0 3681
rnn到lstm,再到seq2seq(一)

rnn的的公式很簡單: 對於每個時刻,輸入上一個時刻的隱層s和這個時刻的文本x,然后輸出這個時刻的隱層s。對於輸出的隱層s 做個ws+b就是這個時刻的輸出y。 rnn的實現: lstm只是網絡結構上個對rnn進行改進,它同時增加一個單元叫做state狀態 ...

Sun May 21 01:36:00 CST 2017 0 1535
rnn到lstm,再到seq2seq(二)

從圖上可以看出來,decode的過程其實都是從encode的最后一個隱層開始的,如果encode輸入過長的話,會丟失很多信息,所以設計了attation機制。 attation機制的deco ...

Sun May 21 21:16:00 CST 2017 0 4697
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM