TensorFlow seq2seq解读

github链接 注:1.2最新版本不兼容,用命令pip3 install tensorflow==1.0.0 在translate.py文件里,是调用各种函数;在seq2seq_model.py文件里,是定义了这个model的具体输入、输出、中间参数是怎样的init,以及获取每个epoch ...

Fri Nov 03 19:06:00 CST 2017 0 4253
Dynamic seq2seq in tensorflow

v1.0中 tensorflow渐渐废弃了老的非dynamic的seq2seq接口,已经放到 tf.contrib.legacy_seq2seq目录下面。 tf.contrib.seq2seq下面的实现都是dynamic seq2seq接口。 按照google的rd说法下个月将会给出更加完 ...

Wed Jan 25 13:38:00 CST 2017 0 3681
rnn到lstm,再到seq2seq(一)

rnn的的公式很简单: 对于每个时刻,输入上一个时刻的隐层s和这个时刻的文本x,然后输出这个时刻的隐层s。对于输出的隐层s 做个ws+b就是这个时刻的输出y。 rnn的实现: lstm只是网络结构上个对rnn进行改进,它同时增加一个单元叫做state状态 ...

Sun May 21 01:36:00 CST 2017 0 1535
rnn到lstm,再到seq2seq(二)

从图上可以看出来,decode的过程其实都是从encode的最后一个隐层开始的,如果encode输入过长的话,会丢失很多信息,所以设计了attation机制。 attation机制的deco ...

Sun May 21 21:16:00 CST 2017 0 4697
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM