Sep, 2021

用位置掩蔽改进文档布局感知理解

TL;DR本文探讨了一种新的预训练任务,即使用位置嵌入来提高LayoutLM的性能,与使用仅语言掩码的模型相比,使用位置掩码的模型在表单理解任务上的表现提高了超过5%。