ACLJun, 2024

论文级关系抽取模型对实体名称变化的鲁棒性研究

PDF
TL;DR通过使用维基数据生成改名实体的文档，并对三个代表性文档级关系抽取模型和两个大规模语言模型在强化学习环境下进行实验，发现他们对实体名称的变化缺乏鲁棒性，尤其是在跨句子关系实例和包含更多实体的文档中。因此，我们提出了一种强化学习的训练方法，旨在改进文档级关系抽取模型的鲁棒性并增强其理解和推理能力。同时我们还证实了该方法的基本思想同样适用于 DocRE 的上下文学习。
document-level relation extractionrobustnessentity name variationslarge language modelstraining method
发现论文，激发创造
  • 重新思考文档级关系抽取：现实检验

    本文针对文档级关系抽取领域中广泛存在的一种强假设，即所有命名实体都已经完美地本地化、标准化和分类，通过构造四种类型的实体提及攻击，对典型的文档级关系提取模型进行行为探测，发现大多数当前的文档级关系提取模型易受实体提及攻击的影响，难以在真实世界的自然语言处理应用中部署，在未来的研究中建议停止简化问题设置，并在真实环境下建模文档级关系提取。

    Jun, 2023

  • 阅读理解模型对实体改名的鲁棒性分析

    研究机器阅读理解模型对实体更名的鲁棒性，并发现实体更名对于 MRC 模型的预测准确率有显著影响。通过使用各种不同的源数据自动替换实体名称，我们在五个数据集和三个预训练模型结构上验证了该问题，并发现 SpanBERT 模型在实体更名下具有更好的鲁棒性。此外，我们还尝试了不同的遮蔽策略，发现基于实体遮蔽的方法能够提高 MRC 模型的鲁棒性。

    Oct, 2021

  • DocRED：大规模文档级关系抽取数据集

    本文介绍 DocRED 数据集，该数据集为文档级别中关系抽取 (Relation Extraction) 提供了一个新的方法，并提供了大规模的远程监督数据，以满足超级 / 弱监督训练需求。同时我们实验了目前最先进的方法，结果表明文档级别中关系抽取仍需要进一步的研究。

    Jun, 2019

  • 以实体为中心的跨文档关系抽取

    本论文提出基于实体的文档上下文过滤来构建输入并基于跨路径实体关系注意力的交叉文档关系提取模型，与现有方法比较，在 CodRED 数据集上取得至少 10％ 的 F1 值的提升，从而展示其在跨文档关系提取中的有效性。

    Oct, 2022

  • 面向文档级关系抽取的辨别性和鲁棒性融合

    本文针对文档级关系抽取问题，设计一种具有高区分性和鲁棒性的方法，包括有效的损失函数，熵最小化和有监督对比学习，新颖的负标签采样策略，并在新的数据情境下进行评估。实验结果表明，该方法在 DocRED 数据集，Re-DocRED 和提出的数据情境下取得了最新的最优结果。

    Apr, 2023

  • 文档级关系抽取综述（2016-2022）

    本文提供了对最近在文档级关系提取领域的发展的全面概述，并强调了它与句子级关系提取的不同应用。

    Sep, 2023

  • 基于知识的跨文档关系抽取

    我们提出了一种新颖方法 KXDocRE，在跨文档关系抽取中嵌入了实体的领域知识，相比基准方法具有三个主要优势：1）它将实体的领域知识与文档的文本结合起来；2）它通过生成解释性文本来解释实体之间的预测关系；3）它在性能上优于先前的方法。

    May, 2024

  • 照应辅助的文档级关系抽取

    我们提出了一种基于指代辅助的框架用于文档级关系抽取任务，实验结果表明我们的模型取得了最先进的性能。

    Oct, 2023

  • 自适应焦点损失和知识蒸馏的文档级关系抽取

    本文提出了一个半监督框架，包含三个新组件，针对文档级关系抽取任务进行优化，通过轴向注意力模块学习实体对之间的相互依赖关系、自适应 focal loss 解决 DocRE 的类别不平衡问题，以及使用知识蒸馏方法克服人工标注数据与远程监督数据之间的差异。在两个 DocRE 数据集上的实验证明我们的模型表现超过了强基线模型，并且在 DocRED 排行榜上的 F1 分数和 Ign_F1 分数分别增加了 1.36 和 1.46 分。

    Mar, 2022

  • 面向文档级关系抽取的全局 - 局部神经网络

    本文提出了一种新的模型对文档级别关系抽取进行建模，该模型能够对全局和局部的实体表示以及上下文关系表示进行编码并提供更好的实验结果。

    Sep, 2020