ACLMay, 2023

大语言模型时代下关系抽取的再审视

PDF
TL;DR本文探讨了利用 GPT-3 和 Flan-T5 等大型语言模型来进行关系提取（RE）的问题，通过将关系线性化生成目标字符串的方法进行了序列到序列的任务处理，通过人工评估的方式，在不同程度的监督下评估了它们在标准 RE 任务中的表现，发现通过 GPT-3 进行的少量提示与现有完全监督模型大致相当，而使用 Chain-of-Thought 风格的解释进一步监督和微调后，该模型产生了最优结果。
relation extractionnlpsupervised learninggenerative modelsfew-shot learning
发现论文，激发创造
  • GPT-RE：利用大型语言模型进行关系抽取的上下文学习

    本研究介绍了 GPT-RE，这是一种解决大型语言模型在关系提取中局限性的方法，包括任务特定实体表现的使用和黄金标签引导推理逻辑的使用。该方法在四个数据集上的实验结果表明其超过了 GPT-3 基线并且在 Semeval 和 SciERC 数据集上实现了 SOTA 表现。

    May, 2023

  • 把握要点：为零 shot 关系抽取量身定制大型语言模型

    通过使用语言模型生成初始种子实例并结合反馈进行改进，在关系抽取任务中实现零样本学习，取得了较基准方法更好的性能。

    Feb, 2024

  • 在检索增强生成框架中使用经过微调的大型语言模型进行关系抽取

    Fine-tuned large language models integrated into the Retrieval-Augmented-based approach demonstrate exceptional performance in identifying implicit relations, surpassing previous results on SemEVAL and achieving substantial gains on TACRED, TACREV, and Re-TACRED datasets.

    Jun, 2024

  • 深度学习在关系抽取中的综合调查：最新进展与新前沿

    本研究综述了关系抽取领域深度学习技术的现状，涵盖资源、分类、挑战和未来方向等方面，有望促进研究者共同探索真实生活中关系抽取系统的挑战。

    Jun, 2023

  • 基于序列标注的少样本关系抽取框架

    本篇论文提出基于序列标注联合提取方法的小样本关系抽取任务，利用少量标注数据解决领域中标注数据不足的问题，并将两种实际序列标注模型应用于这个框架达到了良好的效果。

    Aug, 2022

  • AutoRE：基于大型语言模型的文档级关系抽取

    通过引入 AutoRE 模型和 RHF (Relation-Head-Facts) 的新型 RE 提取范式，结合 QLoRA (Parameters Efficient Fine Tuning) 算法构建了一个易于扩展的 DocRE 框架，在 RE-DocRED 数据集上展现了最佳性能，超过 dev 和 test 集合上分别为 TAG 10.03% 和 9.03% 的最新结果。

    Mar, 2024

  • 关系抽取和分类的生成模型

    本文介绍了一个名为 GREC 的关系抽取和分类的生成模型，采用序列生成任务对关系进行建模，并探索了各种编码表示方法，提出了负采样和解码缩放技术，可实现一次性从句子中提取所有关系三元组，从而在三个基准关系抽取数据集上取得了最新的表现，虽然一次性处理比传统方法在效率上损失了一部分性能，但它更具计算效率。

    Feb, 2022

  • 远程监督关系抽取综述：以去噪和预训练方法为重点

    关系抽取（RE）是自然语言处理的基础任务，本文综述了四个阶段的 RE 方法，包括模式匹配、统计、神经网络和大型语言模型，并着重介绍了现代 RE 方法的远程监控和去噪预训练方法。

    Jul, 2022

  • 关系之间的关系：关系抽取问题的新范式

    本文提出了一种基于图神经网络和关系矩阵变换器的数据驱动关系提取新方法，不需要手工规则，能够完整考虑同一个上下文中的多个关系，并通过对 ACE05 数据集和 SemEval 2018 Task 7.2 等数据集的实验验证，证明该方法优于现有方法 1.12％到 2.55％不等。

    Jun, 2020

  • 句子级关系抽取的改进基准线

    该文介绍了基于句子的关系抽取问题，着重探讨了影响现有关系抽取模型性能的实体表示和噪声标签问题，并利用预训练语言模型提出了改进的基线模型，在 TACRED 数据集上取得了 F1 分数 74.6%，在 Re-TACRED 数据集上取得了 F1 分数 91.1%，证明预训练语言模型在该任务上具有高性能。

    Feb, 2021