May, 2022

联合学习跨度抽取与序列标注，用于商务文档信息提取

PDF
TL;DR本文介绍了一种新的信息抽取模型，能够同时处理长文档和稀疏信息，通过跨度抽取和序列标注两种方法的结合来进行训练和优化，实验结果表明该模型在英语和日语的四个商业数据集上取得了良好的结果，速度也比标准跨度抽取方法更快。
发现论文，激发创造
  • 加强语言表示以利用标签知识进行提取

    本研究提出了一种新的模型来加强文本表达，进而实现信息提取中的 span extraction 任务，并在三个任务，flat NER、nested NER、event detection 中达到了最佳表现，显著减少了训练和推理时间。

    Nov, 2021

  • 基于跨度的信息抽取 -- 关于信息抽取的统一视角

    信息抽取是自然语言处理（NLP）中的一系列任务，用于识别文本中的子序列及其标签，并链接自由文本和结构化数据。本文提出了一种以文本片段为中心的统一视角，将多样的信息抽取任务重新定位为同一基本的以文本片段为导向的信息抽取任务。

    Mar, 2024

  • 从注册和法律文件中提取信息的序列到序列模型

    本文研究使用序列到序列模型作为信息提取的替代方案，针对法律和注册文件等领域的文本，采用微调模型以在结构化格式输出的同时提取信息，学习后处理步骤以消除基于规则的方法，精简流程。我们提出了一种新的方法来对齐输出和输入文本，证明该方法是传统流程的一种替代方案。实验结果表明，该方法适用于四个真实世界的数据集。

    Jan, 2022

  • 基于跨度的联合实体和关系提取，结合序列标注机制

    提出了一种深度神经网络模型 STSN，该模型将序列标注和基于区间的联合抽取结合起来，可以使模型从序列标注机制中学习标记信息，并将其应用于基于区间的联合抽取中，并在三个基准数据集上实现了新的最优结果。

    Oct, 2022

  • 利用任务感知的神经语言模型增强序列标注

    本研究提出了一种新颖的神经网络框架，将预先训练好的字级知识和字符感知神经语言模型相结合，利用转移学习技术实现不依赖于额外监督信号的序列标注任务，并在基准数据集上通过大量实验验证了其有效性和高效性。

    Sep, 2017

  • 利用信息提取和压缩进行大规模多文档摘要

    开发了一种基于抽象的总结框架，适用于多个异构文档，该框架独立于标记数据。 与现有的多文件总结方法不同，我们的框架处理讲述不同故事的文档，而不是同一主题的文档。 最后，我们基于 CNN / Daily Mail 和 NewsRoom 数据集构建了总共十二个数据集变体，其中每个文档组都包含大量且多样化的文档，以评估我们的模型与其他基线系统的性能。 我们的实验表明，我们的框架在这种更通用的情况下胜过了现有的最先进方法。

    May, 2022

  • 利用经过优化的大型语言模型从复杂的科技文本中提取结构化信息

    通过预先训练的语言模型 GPT-3，我们提出了一种简单的序列到序列方法来联合提取科学文本中的复杂层次信息的命名实体识别和关系抽取，并证明了这种方式能够准确提取复杂科学知识的有用记录。

    Dec, 2022

  • 基于动态跨度图的信息抽取通用框架

    介绍了一个通用的框架，用于多个信息提取任务，共享动态构建的跨度图表示，该图由选择最可靠的实体跨度所构成，并使用置信度加权关系类型和共参考建立节点，从而实现共参考和关系类型置信度通过图传播迭代地细化跨度表示，与以前的多任务信息提取框架不同，我们的框架显著优于多个数据集上的多个信息提取任务的最新水平，涵盖了不同的领域。另外，我们观察到跨度枚举方法在检测嵌套跨距实体方面表现出色，在 ACE 数据集上 F1 分数显著提高。

    Apr, 2019

  • 通过生成和压缩信息进行基于跨度的命名实体识别

    本文提出将生成模型和信息压缩模型结合在一起，通过信息瓶颈模型提高命名实体识别（NER）性能。通过实验证明，联合训练生成模型和信息压缩模型可以增强基线的基于 span 的 NER 系统的性能。

    Feb, 2023

  • 基于跨度特征表示的关键短语提取

    该论文提出了一种新颖的 Span Keyphrase Extraction 模型，能够直接从所有内容令牌中提取以跨度为基础的关键短语的特征表示，并进一步学习捕捉单个文档中关键短语之间的交互，以获得更好的排序结果。

    Feb, 2020