本文提出了一种使用图神经网络和解码器复制机制相结合的方法来生成有实体的逻辑表达式，该方法不需要预训练即可在多个任务上达到与当前最先进方法竞争的效果，并且当与 BERT 预训练结合使用时，优于现有方法。

May, 2019

通过深度神经网络，结合多级注意力 U-Net 结构和部分强度场、部分关联场的联合性实现形式理解中的实体检测和链接预测，有效地提升了文档形式理解任务的表现，尤其是在 FUNSD 数据集上的表现优于原始模型和现有基准。

Jun, 2021

该论文提出了一种新模型 LAGER，该模型基于文档中单词之间的拓扑相邻关系建立边缘，并通过引入图神经网络层将其结合到预训练语言模型中，从而有效地提高了实体识别的性能。

May, 2023

本研究提出了一种基于注意力增强的编码器 - 解码器模型的通用方法，旨在消除传统方法所需的高质量词汇表、手工构建的模板和语言特征等问题，并可在不同领域和意义表示之间进行易于调整的转化，实验结果表明，该方法在不使用手工特征的情况下表现出了较强的竞争力。

Jan, 2016

在文档 AI 领域中，半结构化表单解析起着至关重要的作用。本研究提出了一种简单而有效的多模态和多语言半结构化表单解析器（XFormParser），它基于全面的预训练语言模型，并创新地融合了语义实体识别（SER）和关系抽取（RE）技术。通过针对多语言表单解析需求开发了一个创新性的基准数据集，通过在多语言基准和新开发的数据集上进行严格测试，XFormParser 在语言特定设置中的 RE 任务中取得了卓越的效果，F1 得分提高了高达 1.79％。与现有的 SOTA 基准相比，我们的框架在多语言和零样本环境中的性能显著提高。

May, 2024

本文提出 LAGr 模型，通过预测多层输入对齐图的节点和边标签，达到以图形而不是序列的形式直接生成意义表征，从而取得较 seq2seq 模型更好的系统化概括效果。

May, 2022

本文提出一种多任务编码 - 解码模型，通过多语言领域内语料库和英文 - 逻辑形式对标数据，在没有平行语料的情况下完成跨语言的语义解析，模型加强了语言无关编码，显著优于传统基于翻译的算法，有时能与有监督模型的上线媲美。

Apr, 2021

本文介绍了一种基于深度学习的语义依存图形式分析系统，该系统采用效率高且几乎拓扑结构简单的推理方法，通过组合双向 - LSTM 和多层感知机，能够在不使用手工特征或语法的情况下显著提高语义依存分析的技术水平。作者还对多任务学习策略进行了研究，并获得了新的技术成果。

Apr, 2017

本文提出了一种名为 Paragraph2Graph 的基于图神经网络（GNN）的模型，它能够处理多种语言，并表现出了在处理文档布局方面的出色能力，同时可以适应需要进行严格分离的业务场景。

Apr, 2023

通过自然语言句子中的识别视觉实体和将其按照二维空间布局排列，需要对语言和空间进行构造性理解。本研究通过对比显示，如果句子提到了在训练期间看到的类似实体关系，则可以从隐式或显式编码句子句法的语言表示中预测布局。为了测试构造性理解，我们收集了一组语法正确的测试句子和布局，它们描述了在训练期间很可能没有见过的实体和关系的组合。结果显示，在这个测试集上的表现大幅下降，表明当前模型依赖于训练数据中的相关性，并且在理解输入句子的结构方面存在困难。我们提出了一种新颖的结构损失函数，更好地强制执行输入句子的句法结构，并在以文本为条件的 2D 空间布局预测任务中取得了显著的性能提升。该损失函数有潜力在其他生成任务中使用，其中基础的调节方式是树状结构。代码、训练模型和 USCOCO 评估集将通过 GitHub 提供。

Jan, 2024