Abstract 从Bert到Transformer到Attention，想要了解这一套体系的内部机制，便从将Attention机制运用到NLP问题中的第一篇论文开始阅读。 Neural Machine Translation NMT 旨在建一个单个神经网络，这个网络可以共同调整以最大化模型的表现。 在传统的Encoder Decoder模型中，源文本被Encoder转化为一个固定长度的向量，而D ...
2019-05-18 15:05 0 465 推荐指数：
读论文 Neural Machine Translation by Jointly Learning to Align and Translate 这个论文是在NLP中第一个使用attention机制的论文。他们把attention机制用到了神经网络机器翻译（NMT）上。NMT其实就是一个典型 ...
这篇文章是论文"NEURAL MACHINE TRANSLATION BY JOINTLY LEARNING TO ALIGN AND TRANSLATE"的阅读笔记，这是2015年发表在ICLR的一篇文章。 ABSTRACT NMT(neural machine translation ...
(1)用对抗性的源实例攻击翻译模型; (2)使用对抗性目标输入来保护翻译模型，提高其对对抗性源输入的鲁棒性。 生成对抗输入：基于梯度 （平均损失） -> AdvGen ...
针对机器翻译，提出 RNN encoder-decoder. encoder与decoder是两个RNN，它们放在一起进行参数学习，最大化条件似然函数。 网络结构： 注 ...
首先，容我吐槽一下这篇论文的行文结构、图文匹配程度、真把我搞得晕头转向，好些点全靠我猜测推理作者想干嘛，😈 背景 我们知道传统的CNN针对的是image，是欧氏空间square grid，那么使用同样square grid的卷积核就能对输入的图片进行特征的提取。在上一篇论文中，使用的理论 ...
Sequence to Sequence Learning with NN 《基于神经网络的序列到序列学习》原文google scholar下载。 @author: Ilya Sutskever (Google)and so on 一、总览 DNNs在许多棘手的问题处理上取得了瞩目 ...
论文信息：Santoro A, Bartunov S, Botvinick M, et al. One-shot learning with memory-augmented neural networks[J]. arXiv preprint arXiv:1605.06065 ...
BadNets: 识别机器学习模型供应链中的漏洞 摘要 基于深度学习的技术已经在各种各样的识别和分类任务上取得了最先进的性能。然而，这些网络通常训练起来非常昂贵，需要在许多gpu上进行数周的 ...
