原文:Large-Scale Adversarial Training for Vision-and-Language Representation Learning

Large Scale Adversarial Training forVision and Language Representation Learning : : Paper:https: arxiv.org abs . Code: 本文受到前人对抗训练方法的启发,将其用到 vision language model 的预训练中。 该方法的核心部分有如下三点: 对抗的预训练和微调机制 在映射 ...

2020-06-12 10:28 0 604 推荐指数:

查看详情

论文阅读 | Adversarial Training for Large Neural Language Models

本文把对抗训练用到了预训练和微调两个阶段,对抗训练的方法是针对embedding space,通过最大化对抗损失、最小化模型损失的方式进行对抗,在下游任务上取得了一致的效果提升。有趣的是, ...

Thu Oct 15 01:01:00 CST 2020 2 780
LINE:Large-scale Information Network Embedding

LINE:Large-scale Information Network Embedding 摘要: 本文研究了将大型信息网络嵌入到低维向量空间中的问题,该问题在可视化、节点分类和链路预测等许多任务中都有用。现有的大多数图嵌入方法都不适用于通常包含数百万节点的真实信息网络。本文 ...

Fri Apr 26 05:14:00 CST 2019 0 631
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM