一、介绍 内容 “基于神经网络的机器翻译”出现了“编码器+解码器+注意力”的构架,让机器翻译的准确度达到了一个新的高度。所以本次主题就是“基于深度神经网络的机器翻译技术”。 我们首先会尝试使用“编码器+简单解码器”的构架,来观察普通编码器-解码器构架能够取得的效果。然后会尝试“编码器+带有 ...
本文系qitta的文章翻译而成,由renzhe 实现。转载请注明以上信息,谢谢合作。 本文主要讲解以recurrent neural network为主,以及使用Chainer和自然语言处理其中的encoder decoder翻译模型。 并将英中机器翻译用代码实现。 Recurrent Neural Network 最基本的recurrent neural network RNN ,像下面的图一样 ...
2017-01-07 22:57 1 6672 推荐指数:
一、介绍 内容 “基于神经网络的机器翻译”出现了“编码器+解码器+注意力”的构架,让机器翻译的准确度达到了一个新的高度。所以本次主题就是“基于深度神经网络的机器翻译技术”。 我们首先会尝试使用“编码器+简单解码器”的构架,来观察普通编码器-解码器构架能够取得的效果。然后会尝试“编码器+带有 ...
基本概念 机器翻译和语音识别是最早开展的两项人工智能研究。今天也取得了最显著的商业成果。 早先的机器翻译实际脱胎于电子词典,能力更擅长于词或者短语的翻译。那时候的翻译通常会将一句话打断为一系列的片段,随后通过复杂的程序逻辑对每一个片段进行翻译,最终组合在一起。所得到的翻译结果应当说似是而非 ...
论文: Neural Machine Translation by Jointly Learning to Align and Translate 提出背景: 机器翻译又称为自动翻译,是利用计算机将一种自然语言(源语言)转换成另外一种自然(目标语言)语言的过程,本质 ...
http://c.biancheng.net/view/1947.html seq2seq 是一类特殊的 RNN,在机器翻译、文本自动摘要和语音识别中有着成功的应用。本节中,我们将讨论如何实现神经机器翻译,得到类似于谷歌神经机器翻译系统得到的结果(https ...
神经机器翻译(Neural Machine Translation,NMT)建立源语言到目标语言的映射。多语种神经机器翻译(Multilingual NMT)能够实现一个模型在多个语言之间映射。本篇主要介绍神经机器翻译,以及多语种神经机器翻译的最新研究进展。 Does Multi-Encoder ...
种情况下,你可以使用神经机器翻译。 神经机器翻译的任务是使用深层神经网络从一个源语言(如英语)的一系 ...
本篇总结神经机器翻译的实践中,较为基础的最佳实践。 应该使用哪个模型作为基线 Transformer是2017年发布的模型,即使到2020年仍然是比较好的基线模型,大热的BERT就是其升级版。 代码地址 Fairseq 这里实际推荐比较使用Fairseq指定arch ...
自然语言处理N天-使用Pytorch实现Transformer https://www.jianshu.com/p/e05ec4bdc60b https://www.jianshu.com/p/4e94690ba8e3 https://www.jianshu.com/p ...