采用Google預訓bert實現中文NER任務

本博文介紹用Google pre-training的bert（Bidirectional Encoder Representational from Transformers）做中文NER（Name Entity Recognition）

第一步： git clone https://github.com/google-research/bert.git ，存放在 bert文件中

第二步： 下載BERT-Base Chinese模型， 存放在checkpoint文件中

相關文件結構如下：

BERT
|____ bert
|____NERdata
|____ BERT_NER.py
|____ checkpoint
|____ output

第三步：

run：

python BERT_NER.py   \
                  --task_name="NER"  \ 
                  --do_train=True   \
                  --do_eval=True   \
                  --do_predict=True
                  --data_dir=NERdata   \
                  --vocab_file=checkpoint/vocab.txt  \ 
                  --bert_config_file=checkpoint/bert_config.json \  
                  --init_checkpoint=checkpoint/bert_model.ckpt   \
                  --max_seq_length=128   \
                  --train_batch_size=32   \
                  --learning_rate=2e-5   \
                  --num_train_epochs=3.0   \
                  --output_dir=./output/result_dir/ 
預測結果存放在result_dir目錄中
以上所有參數都是基於bert官方默認參數

參考：

• https://github.com/google-research/bert

• https://arxiv.org/abs/1810.04805