论文阅读 | Robust Neural Machine Translation with Doubly Adversarial Inputs
(1)用对抗性的源实例攻击翻译模型; (2)使用对抗性目标输入来保护翻译模型，提高其对对抗性源输入的鲁棒性。 生成对抗输入：基于梯度 （平均损失） -> AdvGen ...
原文：论文阅读 | A Robust Adversarial Training Approach to Machine Reading Comprehension
背景 方法 作者们提出了一种模型驱动的方法，使用自动对抗的方法自动生成未观察过的对抗样本，并运用生成的样本最终提升阅读理解模型的效果鲁棒性，全程无需人工参与。 该方法可以简单地划分为三个步骤： 对每个训练样本利用对抗的方法生成一个干扰向量输入，使得它能够误导当前的阅读理解模型 采用贪心策略从干扰向量的词汇权重中采样得到对应的离散化的干扰文本 使用干扰文本构建用于训练的对抗样本，并重新训练阅读理解模 ...
2020-05-24 13:29 0 601 推荐指数：
相关推荐
论文阅读 | Combating Adversarial Misspellings with Robust Word Recognition
对抗防御可以从语义消歧这个角度来做，不同的模型，后备模型什么的，我觉得是有道理的，和解决未登录词的方式是类似的，毕竟文本方面的对抗常常是修改为UNK来发生错误的。怎么使用backgroud model ...
论文阅读 | Adversarial Training for Large Neural Language Models
本文把对抗训练用到了预训练和微调两个阶段，对抗训练的方法是针对embedding space，通过最大化对抗损失、最小化模型损失的方式进行对抗，在下游任务上取得了一致的效果提升。有趣的是， ...
机器阅读理解综述Neural Machine Reading Comprehension Methods and Trends(略读笔记)
标题：Neural Machine Reading Comprehension: Methods and Trends 作者：Shanshan Liu, Xin Zhang, Sheng Zhang, Hui Wang, Weiming Zhang 链接：https ...
黑盒对抗攻击论文《DaST: Data-free Substitute Training for Adversarial Attacks》阅读感想
论文链接：https://openaccess.thecvf.com/content_CVPR_2020/html/Zhou_DaST_Data-Free_Substitute_Training_for_Adversarial_Attacks_CVPR_2020_paper.html 先介绍对抗 ...
Attention-over-Attention Neural Networks for Reading Comprehension论文总结
Attention-over-Attention Neural Networks for Reading Comprehension 论文地址:https://arxiv.org/pdf/1607.04423.pdf 0 摘要 任务：完形填空是阅读理解是挖掘文档和问题关系的一个代表性 ...
Adversarial Training
原于2018年1月在实验室组会上做的分享，今天分享给大家，希望对大家科研有所帮助。 今天给大家分享一下对抗训练（Adversarial Training，AT）。 为何要选择这个主题呢？ 我们从上图的Attention的搜索热度可以看出，Attention在出现后，不断被人们所重视 ...
Domain-adversarial training of neural networks - 1 - 论文学习
Domain-adversarial training of neural networks Abstract 我们介绍了一种新的用于域自适应的表征学习方法，其中训练和测试时的数据来自相似但不同的分布。我们的方法直接受到域 ...