一、BERT-wwm wwm是Whole Word Masking（对全词进行Mask），它相比于Bert的改进是用Mask标签替换一个完整的词而不是子词，中文和英文不同，英文中最小的Token就是一个单词，而中文中最小的Token却是字，词是由一个或多个字组成，且每个词之间没有明显的分隔，包含 ...

之前看过一条评论说Bert提出了很好的双向语言模型的预训练以及下游迁移的框架，但是它提出的各种训练方式槽点较多，或多或少都有优化的空间。这一章就训练方案的改良，我们来聊聊RoBERTa和SpanBERT给出的方案，看作者这两篇paper是一个组的作品，所以彼此之间也有一些共同点。正在施工中的代码库 ...

BERT,全称是Bidirectional Encoder Representations from Transformers。可以理解为一种以Transformers为主要框架的双向编码表征模型。所以要想理解BERT的原理，还需要先理解什么是Transformers。 Trans ... ...

BERT模型是什么 BERT的全称是Bidirectional Encoder Representation from Transformers，即双向Transformer的Encoder，因为decoder是不能获要预测的信息的。模型的主要创新点都在pre-train方法上，即用 ...

bert微调步骤： 首先从主函数开刀： copy run_classifier.py 随便重命名 my_classifier.py 先看主函数： 1，data_dir flags.mark_flag_as_required("data_dir")中data_dir ...

一、文本特征编码 1. 标量编码 美国：1 中国：2 印度：3 … 朝鲜：197 标量编码问题：美国 + 中国 = 3 = 印度 2. One-hot编码 美国：[1,0,0,0,…,0]中 ...

Transformer 　　自 Attention 机制提出后，加入 Attention 的 seq2seq 模型在各个任务上都有了提升，所以现在的 seq2seq 模型指的都是结合 RNN 和 A ...

一、BERT介绍 论文：BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding 简介：BERT是基于Transformer的深度双向语言表征模型，基本结构如图所示，本质上是利用 ...