EMNLPOct, 2020

从语境还是名称学习？神经关系抽取的实证研究

PDF
TL;DR本文研究神经模型在关系抽取（RE）任务中的表现，并提出了一种基于实体掩码对比预训练框架，旨在深入理解文本上下文和类型信息，同时避免了对命名实体的机械记忆或表浅提示的使用。实验证明，该框架可以提高不同情况下的神经模型的效果和鲁棒性。
neural modelsrelation extractiontextual contextentity mentionspre-training framework
发现论文，激发创造
  • 实体和关系抽取中的情境化和泛化

    本文主要研究了最新的自然语言处理技术中，神经网络和语言模型在命名实体识别和关系抽取方面的应用以及它们在训练过程中面临的一些挑战。我们发现，预训练的语言模型对发现未曾见过的命名实体表现良好，但对于未曾见过的关系则有待加强，因此模型的理解能力仍存在提升空间。

    Jun, 2022

  • 使用预训练语言模型的端到端命名实体识别和关系抽取

    本文提出了一种基于神经元的端到端模型来联合提取实体和它们的关系，该模型不依赖于外部自然语言处理工具，而是集成了大量的预训练语言模型， 在三个领域的五个数据集上，我们的模型可以与最先进的性能相提并论，有时甚至具有更高的性能。

    Dec, 2019

  • 我们应该依赖实体提及来进行关系抽取吗？通过反事实分析消除关系抽取偏差

    本文提出了一种名为 CORE 的反事实分析方法，通过构造关系提取器的因果图，并在其上进行反事实分析来捕捉和减少实体偏置。该方法不会改变现有 RE 系统的训练过程，极大地提高了 RE 的效率和概括能力。

    May, 2022

  • 深度学习在关系抽取中的综合调查：最新进展与新前沿

    本研究综述了关系抽取领域深度学习技术的现状，涵盖资源、分类、挑战和未来方向等方面，有望促进研究者共同探索真实生活中关系抽取系统的挑战。

    Jun, 2023

  • 关系抽取在临床文档理解中的应用

    该文介绍了一种文本挖掘框架，利用 Named Entity Recognition 和 Relation Extraction 模型对医学文献和数字临床记录进行处理，取得优异的实验结果，并构建了一个生物医学知识图谱。系统使用 Spark NLP 库提供的生产级、可伸缩、硬件优化、可训练和可调整的 NLP 框架。

    Dec, 2021

  • 朝着现实低资源关系抽取的方向：具有实证基线研究的基准测试

    本文通过三种不同的方案对低资源情况下关系抽取系统进行了全面研究，并创建了包含 8 个 RE 数据集的基准，示范了不同的方法与结合的影响，结果表明虽然基于提示的调整有助于低资源 RE，但在从跨句子上下文中提取多个关系三元组时仍有很大改善潜力，数据增强与自我训练可以较好地充实现有基准，并可带来很多性能提升，然而自我训练并不能始终实现低资源关系抽取的进步。

    Oct, 2022

  • 提升关系抽取的敌对视角

    提出了一种针对关系抽取的对抗训练方法，通过序列和标记级的扰动引入独立的扰动词汇表来改进对实体和上下文扰动的搜索，引入了一种概率策略在对抗训练上使上下文的清理标记数更多，实验证明相比于其他对抗训练方法，该方法显著提高了模型的准确性和鲁棒性，同时在数据可用性不足的情况下也表现出良好的效果。

    Apr, 2024

  • 神经关系抽取中句子级表示的语言特征探究

    提出 14 个探测任务，以研究 40 多种编码器架构和语言特征组合所学习的表示，发现神经关系抽取的性能受编码器架构和语言特征的影响，上下文化单词表示可以提高性能，而实体掩蔽则会降低与实体类型相关的探测任务的性能。

    Apr, 2020

  • 面向文档级关系抽取的全局 - 局部神经网络

    本文提出了一种新的模型对文档级别关系抽取进行建模，该模型能够对全局和局部的实体表示以及上下文关系表示进行编码并提供更好的实验结果。

    Sep, 2020

  • 更多数据、更多关系、更多上下文和更多开放：关系抽取综述与展望

    本文回顾了现有的关系抽取方法，分析了当前面临的关键挑战，并展示了通向更强大的关系抽取的有前途的方向。

    Apr, 2020