本文提出了一种新的框架，称为文档图像变压器 (DocTr)，以解决文档图像的几何和光照失真问题。 具体来说，DocTr 由几何展开变压器和光照校正变压器组成。 通过设置一组学习的查询嵌入，几何展开变压器通过自注意机制捕获文档图像的全局上下文，并解码逐像素的位移解以校正几何失真。在几何展开后，我们的光照校正变压器进一步去除阴影伪影，以改善视觉质量和 OCR 准确性。我们在几个数据集上进行了广泛的评估，并报告了针对最先进方法的优越结果。值得注意的是，我们的 DocTr 实现了 20.02％的字符错误率 (CER)，比最先进的方法提高了 15％绝对值。 此外，它还显示出运行时间和参数计数的高效性。

Oct, 2021

本文提出一种名为 StrucTexT 的统一框架，该框架使用 transformer 构建了一个段 - 标记对齐的编码器来处理文档上下文中不同层面的实体标记和链接任务，并使用三个自监督任务设计了一种新颖的预训练策略，以有效地提取多模态信息，从而优于 FUNSD，SROIE 和 EPHOIE 数据集的现有方法。

Aug, 2021

该研究提出了一个基于 Transformer 的模型 ——DocSegTr，用于端到端处理具有复杂排版的文档图像的实例级分割。实验结果表明，该模型对于文档分割表现优于现有的最先进方法，可作为文档图像实例级识别任务的有前途的基准。

Jan, 2022

本研究提出基于 Entity-level Relation Matrix 与 U-shaped Network 的 Document-level Relation Extraction 模型，通过结合上下文信息以及全局关系，实现了在 DocRED，CDR 和 GDA 三个基准数据集上的最优性能。

Jun, 2021

TransferDoc 是跨模态 transformer 架构，通过在自我监督学习中使用三个新颖的预训练目标，实现更丰富的语义概念的学习，从而在工业评估场景中胜过其他最先进的方法。

Sep, 2023

这篇论文介绍了一种名为 DeepReader 的新型企业级综合框架，其通过识别文档图像中的视觉实体并在不同实体之间填充元关系模型来促进文档图像中的信息提取，包括从表格、图表、脚注、文本框和标题等视觉实体中提取相关信息。

Dec, 2018

通过提出的 HiStruct+ 模型，将 Transformer-based language models 中的层级结构信息显式注入到提取式文摘模型中，提高了 PubMed 和 arXiv 数据集中提取式文摘的 ROUGEs 指标，实验发现：数据集对模型效果的影响是关键因素，数据集中的明显层级结构可以取得更大的性能提升，而在模型的表现中，层级位置信息的贡献最大。

Mar, 2022

提出了一种新的方法 SPECTER 来基于引用图预训练 Transformer 语言模型以生成科学文件的文件级嵌入，在包括文献预测、文档分类和推荐等七种文档级任务上优于多种竞争基线。

Apr, 2020

本文使用 biaffine 解析模型，通过布局信息提取视觉信息中的实体关系，成功运用于生产环境。

Oct, 2021

本文研究信息提取的问题，使用大型预训练语言模型和图神经网络相结合的模型来高效地编码视觉和文本信息，并引入新的微调目标，通过使用大量未标记的领域内数据来改善领域内无监督微调。我们在真实世界的发票和简历数据集上进行了实验，并表明所提出的方法在发票上的绝对 F1 比强文本基线高出 6.3％ ，在简历中 F1 绝对值增加了 4.7％。在少数样本情况下，我们的方法需要比基线少 30 倍的批注数据才能在约 90％的 F1 达到相同的性能水平。

May, 2020