May, 2024

XFormParser：一种简单而有效的多模式多语言半结构化表单解析器

PDF
TL;DR在文档 AI 领域中，半结构化表单解析起着至关重要的作用。本研究提出了一种简单而有效的多模态和多语言半结构化表单解析器（XFormParser），它基于全面的预训练语言模型，并创新地融合了语义实体识别（SER）和关系抽取（RE）技术。通过针对多语言表单解析需求开发了一个创新性的基准数据集，通过在多语言基准和新开发的数据集上进行严格测试，XFormParser 在语言特定设置中的 RE 任务中取得了卓越的效果，F1 得分提高了高达 1.79％。与现有的 SOTA 基准相比，我们的框架在多语言和零样本环境中的性能显著提高。
发现论文，激发创造
  • 语言无关的神经符号语义分析在形式理解中的应用

    该研究提出了一种名为 LAGNN 的语言无关图神经网络模型，用于将表格解析成单词 - 关系图，以联合识别实体和关系，并通过相对间距来利用布局信息进行易于语言转移。

    May, 2023

  • LayoutXLM: 多模态预训练用于多语种视觉丰富文档理解

    本文提出了一种基于 LayoutXLM 的多模态预训练模型，用于多语言文档理解，并在名为 XFUND 的多语言表单理解基准数据集上进行了验证，结果表明 LayoutXLM 模型在跨语言预训练方面优于现有的 SOTA 模型。

    Apr, 2021

  • 零样本跨语言语义解析

    本文提出一种多任务编码 - 解码模型，通过多语言领域内语料库和英文 - 逻辑形式对标数据，在没有平行语料的情况下完成跨语言的语义解析，模型加强了语言无关编码，显著优于传统基于翻译的算法，有时能与有监督模型的上线媲美。

    Apr, 2021

  • 众多语言，一种解析器

    使用多语言模型进行依赖解析，通过使用多语言单词聚类和嵌入，令解析器能够在多种语言中进行有效解析，同时基于语言普遍规律和类型相似性实现跨语言推断，从而使其能够更有效地从有限的注释中进行学习。

    Feb, 2016

  • 使用机器翻译在一天内对开放本体问答语义解析器进行本地化

    本研究提出了一种新的方法，使用神经机器翻译系统来本地化语义解析器，通过在目标语言自动产生的数据中添加一次辅助的人类翻译，我们训练了一种新的模型，可以通过 QA 系统对多个新的领域和语言进行问答。结果表明，我们的方法比以前的最先进方法在几个测试语言的测试数据集上更为有效，QA 系统可以帮助任何软件开发人员在不到 24 小时内为新领域添加新的语言支持。

    Oct, 2020

  • QueryForm：一个简单的零 - shot 表单实体查询框架

    本论文提出了一种基于查询的框架 QueryForm，用于在文档理解方面进行零样本转移学习，并通过预先训练和微调相统一的方式进行模型训练，从而使模型能够学习各种实体和布局，同时无需目标特定的训练数据，在 XFUND 和 Payment 数据集上实现了更好的结果。

    Nov, 2022

  • FormNetV2：面向表单文件信息提取的多模态图形对比学习

    FormNetV2 引入了一种集中的多模态图形对比学习策略，将自监督预训练统一为一个损失，通过提取与图形边缘相连的一对令牌之间的边界框内的图像特征，捕捉更有针对性的视觉线索，从而在 FUNSD、CORD、SROIE 和 Payment 基准测试上建立新的最先进性能。

    May, 2023

  • 银行流程自动化的多模态文档分析

    本研究旨在通过理解先进的文档分析技术，特别是多模态模型，在银行业务的操作效率提升和应对金融科技竞争方面的潜力。通过综合分析多样化的银行文件环境，我们展示了通过自动化和高级分析技术在客户业务中提高效率的机会。借助自然语言处理领域的快速发展，我们阐明了在银行业领域分析各种文件的 LayoutXLM 等模型潜力。该模型可对德国公司注册文件进行文本标记分类，整体 F1 得分约为 80%。我们的实证证据证实了布局信息在提高模型性能方面的关键作用，并进一步强调了整合图像信息的好处。有趣的是，我们的研究表明，仅使用 30% 的训练数据就可以达到超过 75% 的 F1 得分，证明了 LayoutXLM 的高效性。通过解决最先进的文档分析框架，我们的研究旨在提高流程效率，展示多模态模型在银行业务中的实际适用性和好处。

    Jul, 2023

  • 学习跨语言分布式逻辑表示以进行语义解析

    本文探讨了如何通过在不同语言中打标注的数据来学习语义解析器的分布式逻辑形式表示，以提高特定语言下单语义解析器的性能，并在标准的多语言 GeoQuery 数据集上得到了改进的结果。

    Jun, 2018

  • DocStruct：一种多模态方法，用于提取文档中的层次结构，以实现通用表单理解

    本研究提出了一种基于多模态方法的表格理解框架，该框架可以有效地提取表格键值对，并应用于医疗表格和 FUNSD 等基准数据集上，实验证明方法的有效性。

    Oct, 2020