一文讀懂BERT中的WordPiece
1. 前言 2018年最火的論文要屬google的BERT,不過今天我們不介紹BERT的模型,而是要介紹BERT中的一個小模塊WordPiece。 2. WordPiece原理 現在基本性能好一些的NLP模型,例如OpenAI GPT,google的BERT,在數據預處理的時候都會 ...
1. 前言 2018年最火的論文要屬google的BERT,不過今天我們不介紹BERT的模型,而是要介紹BERT中的一個小模塊WordPiece。 2. WordPiece原理 現在基本性能好一些的NLP模型,例如OpenAI GPT,google的BERT,在數據預處理的時候都會 ...