原文:Large-Scale Adversarial Training for Vision-and-Language Representation Learning

Large Scale Adversarial Training forVision and Language Representation Learning : : Paper:https: arxiv.org abs . Code: 本文受到前人對抗訓練方法的啟發,將其用到 vision language model 的預訓練中。 該方法的核心部分有如下三點: 對抗的預訓練和微調機制 在映射 ...

2020-06-12 10:28 0 604 推薦指數:

查看詳情

論文閱讀 | Adversarial Training for Large Neural Language Models

本文把對抗訓練用到了預訓練和微調兩個階段,對抗訓練的方法是針對embedding space,通過最大化對抗損失、最小化模型損失的方式進行對抗,在下游任務上取得了一致的效果提升。有趣的是, ...

Thu Oct 15 01:01:00 CST 2020 2 780
LINE:Large-scale Information Network Embedding

LINE:Large-scale Information Network Embedding 摘要: 本文研究了將大型信息網絡嵌入到低維向量空間中的問題,該問題在可視化、節點分類和鏈路預測等許多任務中都有用。現有的大多數圖嵌入方法都不適用於通常包含數百萬節點的真實信息網絡。本文 ...

Fri Apr 26 05:14:00 CST 2019 0 631
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM