1. 前言 XLNet原文链接是CMU与谷歌大脑提出的全新NLP模型，在20个任务上超过了BERT的表现，并在18个任务上取得了当前最佳效果，包括机器问答、自然语言推断、情感分析和文档排序。 这篇 ...

原文地址：https://zhuanlan.zhihu.com/p/84559048 拜读贪心科技李文哲老师的文章，我做个笔记。 摘抄记录如下： 谷歌Lab近日发布了一个新的预训练模型"ALBE ...

预训练模型 在CV中，预训练模型如ImagNet取得很大的成功，而在NLP中之前一直没有一个可以承担此角色的模型，目前，预训练模型如雨后春笋，是当今NLP领域最热的研究领域之一。 预训练模型属于迁 ...