用对抗性的源实例攻击翻译模型 使用对抗性目标输入来保护翻译模型，提高其对对抗性源输入的鲁棒性。 生成对抗输入：基于梯度 平均损失 gt AdvGen 我们的工作处理由白盒NMT模型联合生成的扰动样本 gt 知道受攻击模型的参数 ADVGEN包括encoding, decoding: 通过生成对训练损失敏感的对抗性源输入来攻击NMT模型 用对抗性目标输入对NMT模型进行了防御，目的是降低相应对抗性 ...
2019-09-25 11:22 0 329 推荐指数：
背景 方法 作者们提出了一种模型驱动的方法，使用自动对抗的方法自动生成未观察过的对抗样本，并运用生成的样本最终提升阅读理解模型的效果鲁棒性，全程无需人工参与。 该方法可以简单地划分为三个步骤： （1）对每个训练样本利用对抗的方法生成一个干扰向量输入，使得它能够误导当前 ...
Abstract 从Bert到Transformer到Attention，想要了解这一套体系的内部机制，便从将Attention机制运用到NLP问题中的第一篇论文开始阅读。 Neural Machine Translation（NMT） 旨在建一个单个神经网络，这个网络可以共同调整以最大化模型 ...
对抗防御可以从语义消歧这个角度来做，不同的模型，后备模型什么的，我觉得是有道理的，和解决未登录词的方式是类似的，毕竟文本方面的对抗常常是修改为UNK来发生错误的。怎么使用backgroud model ...
读论文 Neural Machine Translation by Jointly Learning to Align and Translate 这个论文是在NLP中第一个使用attention机制的论文。他们把attention机制用到了神经网络机器翻译（NMT）上。NMT其实就是一个典型 ...
本文把对抗训练用到了预训练和微调两个阶段，对抗训练的方法是针对embedding space，通过最大化对抗损失、最小化模型损失的方式进行对抗，在下游任务上取得了一致的效果提升。有趣的是， ...
摘要 GAN的训练需要图片是两两匹配的，这样经过训练后，生成器可以逐步生成一张让判别期无法判断真伪的图片。但实际上会碰到一些非匹配的图片，于是就提出了非匹配的图片转换(Unpaired image- ...
Neural Machine Translation Welcome to your first programming assignment for this week! You will build a Neural Machine Translation (NMT) model ...
原文翻译 导读 这篇文章的主要工作在于应用了对抗训练（adversarial training）的思路来解决开放式对话生成（open-domain dialogue generation）这样一个无监督的问题。 其主体思想就是将整体任务划分到两个子系统上，一个是生成器 ...
