摘要：文档版式分析任务中，文档的视觉信息、文本信息、各版式部件间的关系信息都对分析过程具有很重要的作用。本文提出一种融合视觉、文本、关系多模态信息的版式分析架构VSR。 本文分享自华为云社区《论文解读系列十八：融合视觉、语义、关系多模态信息的文档版面分析架构VSR》，作者： 小菜鸟chg ...

摘要：一个端到端的文档结构分析方案（DocParser），对文档（扫描版、图片版等）进行结构提取，包括实体识别（这里实体指所有需要检测的元素，包括文本、行、列、单元格等）和关系分类。 本文分享自华为云社区《论文解读系列十五：文档结构分析》，原文作者：一笑倾城。 1 文章摘要 提出 ...

BERT：Pre-training of Deep Bidirectional Transformers for Language Understanding 谷歌AI语言组论文《BERT：语言理解的深度双向变换器预训练》，介绍一种新的语言 ...

摘要：在此解决方案中把表格识别分成了四个部分：表格结构序列识别、文字检测、文字识别、单元格和文字框对齐。其中表格结构序列识别用到的模型是基于Master修改的，文字检测模型用到的是PSENet，文字识别用到的是Master模型。 本文分享自华为云社区《论文解读二十八：表格识别模型 ...

Jacob Devlin Ming-Wei Chang Kenton Lee kristina Toutanova Google AI Language {jacobdevlin, mingwei ...

LayoutLM: Pre-training of Text and Layout for Document Image Understanding 摘要 预训练技术已经在最近几年的NLP几类任务上取得成功。尽管NLP应用的预训练模型被广泛使用，但它们几乎只关注于文本级别的操作，而忽略 ...

一、Masked LM get_masked_lm_output函数用于计算「任务#1」的训练 loss。输入为 BertModel 的最后一层 sequence_output 输出（[batch_size, seq_length, hidden_size]）,先找出输出结果中masked掉的词 ...

预训练，均可用于NLU和NLG。 CPT： a novel Chinese Pre-trained ...