Jun, 2024

在检索增强生成框架中使用经过微调的大型语言模型进行关系抽取

PDF
TL;DRFine-tuned large language models integrated into the Retrieval-Augmented-based approach demonstrate exceptional performance in identifying implicit relations, surpassing previous results on SemEVAL and achieving substantial gains on TACRED, TACREV, and Re-TACRED datasets.
information extractionrelation extractionlanguage modelsretrieval-augmented-based approachimplicit relations
发现论文，激发创造
  • 检索增强的基于生成的关系抽取

    信息抽取是将非结构化文本数据转化为结构化格式的一种变革性过程，本研究提出了一种提高关系抽取任务性能的基于检索增强生成的关系抽取方法，并通过使用不同的大型语言模型对其进行了有效性评估。结果显示，该方法在信息抽取任务中表现出卓越的性能，特别是在 TACRED 数据集及其变体上。此外，与以往的方法相比，该方法在 TACRED 和 TACREV 数据集上的表现也非常出色，凸显了它在自然语言处理的关系抽取任务中的有效性和潜力。

    Apr, 2024

  • AutoRE：基于大型语言模型的文档级关系抽取

    通过引入 AutoRE 模型和 RHF (Relation-Head-Facts) 的新型 RE 提取范式，结合 QLoRA (Parameters Efficient Fine Tuning) 算法构建了一个易于扩展的 DocRE 框架，在 RE-DocRED 数据集上展现了最佳性能，超过 dev 和 test 集合上分别为 TAG 10.03% 和 9.03% 的最新结果。

    Mar, 2024

  • 大语言模型时代下关系抽取的再审视

    本文探讨了利用 GPT-3 和 Flan-T5 等大型语言模型来进行关系提取（RE）的问题，通过将关系线性化生成目标字符串的方法进行了序列到序列的任务处理，通过人工评估的方式，在不同程度的监督下评估了它们在标准 RE 任务中的表现，发现通过 GPT-3 进行的少量提示与现有完全监督模型大致相当，而使用 Chain-of-Thought 风格的解释进一步监督和微调后，该模型产生了最优结果。

    May, 2023

  • 召回、检索与推理：迈向更好的上下文关系抽取

    通过提出一种召回 - 检索 - 推理关系抽取框架，将大型语言模型与检索语料库相结合，从而使语言模型能够在上下文中进行可靠的推理，以提高关系抽取的性能。

    Apr, 2024

  • GPT-RE：利用大型语言模型进行关系抽取的上下文学习

    本研究介绍了 GPT-RE，这是一种解决大型语言模型在关系提取中局限性的方法，包括任务特定实体表现的使用和黄金标签引导推理逻辑的使用。该方法在四个数据集上的实验结果表明其超过了 GPT-3 基线并且在 Semeval 和 SciERC 数据集上实现了 SOTA 表现。

    May, 2023

  • 把握要点：为零 shot 关系抽取量身定制大型语言模型

    通过使用语言模型生成初始种子实例并结合反馈进行改进，在关系抽取任务中实现零样本学习，取得了较基准方法更好的性能。

    Feb, 2024

  • 基于大语言模型的远程监督半自动文档级关系抽取数据增强

    通过集成大型语言模型和自然语言推理模块，我们提出一种自动标注方法来生成关系三元组，从而增强文档级关系数据集，我们通过介绍增强的数据集 DocGNRE 展示了我们方法的有效性，该方法在重新注释众多长尾关系类型方面表现出色，并且在推进广义语言语义理解方面提供了实际好处。

    Nov, 2023

  • 低资源情境下，LLM 在关系抽取中的表现如何？综合评估

    该研究构建了十个低资源语言的关系抽取数据集，并利用语言困惑度对翻译数据进行过滤，最后在这些数据集上评估了开源大型语言模型的性能。

    Jun, 2024

  • 深度学习在关系抽取中的综合调查：最新进展与新前沿

    本研究综述了关系抽取领域深度学习技术的现状，涵盖资源、分类、挑战和未来方向等方面，有望促进研究者共同探索真实生活中关系抽取系统的挑战。

    Jun, 2023

  • GPT-FinRE: 使用大型语言模型进行金融关系抽取的上下文学习

    本文使用了 ICL 框架下的 OpenAI 模型，采用两种检索策略在 REFinD 数据集中取得了较好的结果，获得了第 4 名的成绩，最佳 F1 分数为 0.718。

    Jun, 2023