May, 2023

PIVOINE: 针对开放世界信息提取的指令调优

PDF
TL;DR本研究探讨了开放世界信息提取的问题，并通过细调整大型语言模型（LLM）以提取出符合自然语言指令的实体属性文件。经实验证明，通过构建 INSTRUCTOPENWIKI 数据集，本研究所提出的 PIVOINE LLM 模型有效地解决了传统封闭世界信息提取方法和其他 LLM 基线的问题，具有良好的推广能力。
open-world information extractionentity profileslarge language modelinstruction tuningpivoine
发现论文，激发创造
  • 指导与提取：面向按需信息提取的指令调优

    基于大型语言模型的指令跟随能力，我们提出了新的范式：按需信息提取，以满足真实用户的个性化需求。通过 InstructIE 基准测试及 ODIE 模型，我们展示了在信息提取领域的显著性能提升。

    Oct, 2023

  • InstructUIE: 统一信息抽取的多任务指令调整

    该论文提出了基于指令调整的统一信息提取框架 InstructUIE，它可以统一地建模各种信息提取任务并捕获任务间的依赖关系。在零样本设置下，该方法显著优于现有的大型语言模型和 gpt3.5。

    Apr, 2023

  • 基于预训练语言模型的高效开放信息抽取数据学习

    通过将 OpenIE 任务形式巧妙地转换为 T5 模型的预训练任务形式，并引入锚点的创新概念，OK-IE 显著减少了对大量训练数据的需求，消除了模型收敛速度慢的问题，实验结果显示，相较于之前的 SOTA 方法，OK-IE 仅需 1/100 的训练数据量（900 个实例）和 1/120 的训练时间（3 分钟）即可达到可比较的结果。

    Oct, 2023

  • InstructIE：一个基于中文指令的信息提取数据集

    该论文介绍了一种新的信息提取任务，名为 Instruction-based IE，旨在要求系统根据特定的指示或指南提取信息。作者从中文维基百科和高质量众包注释实例构造了一个名为 InstructIE 的数据集，并评估了各种基线模型在该数据集上的性能。结果表明，当前的模型表现出有希望的性能，但仍有改进的空间。此外，作者进行了综合案例分析，强调了 Instruction-based IE 任务中固有的挑战。

    May, 2023

  • 神经开放信息抽取综述：当前状态与未来方向

    这篇文章针对开放信息抽取 (OpenIE) 进行了广泛的综述，其中包括最先进的神经网络 OpenIE 模型、它们的设计决策及其优缺点，以及当前解决方案的局限性和 OpenIE 问题本身存在的问题。最后，我们列出了能够扩展其范围和适用性的最新趋势，为 OpenIE 领域的未来研究开辟了有前途的方向。

    May, 2022

  • 开放信息抽取的语法多视角学习

    本研究使用多视图学习将从开放域语句中提取的关系元组所需的句法信息从成分结构和依赖关系树映射到词级别的图中并进行拓展，达到更好地融合此类信息的目的。实验证明，这种多视图学习的方法与使用多种信息源构建元组是非常有效的。

    Dec, 2022

  • 融合局部上下文和全局连贯性的开放信息提取

    本文提出了一种名为 ReMine 的新型 Open IE 系统，将本地上下文信号和全局结构信号统一到一个遥感监督的框架中，并利用外部知识库中的事实作为监督，通过联合优化问题解决实体 / 关系短语分割和元组提取质量评估的两个子任务，以提高从大型语料库中提取元组的质量，并在两种不同领域的实际语料库上进行实验以证明其有效性和鲁棒性。

    Apr, 2018

  • WebIE: 在网络上进行忠实和稳健的信息提取

    本文提出了 WebIE 数据集，其中包括 1.6M 个句子及其详细注释。基于此数据集，我们评估了基于生成模型的信息提取模型的跨域和跨语言性能，并提出了三种训练策略。我们的实验表明，实体链接方式得到明显提高。

    May, 2023

  • 开放信息提取

    本文概述了两代 Open IE 系统，包括其优点、弱点和应用范围。第二代系统在深度语言学分析下，通过动词短语或从句提取最常见的关系类型，并获得比第一代系统更高的性能。

    Jul, 2016

  • IEPile: 挖掘大规模基于模式的信息抽取语料库

    通过构建综合的双语（英语和汉语）信息抽取指示语料库 IEPile，可以提高大语言模型在信息抽取中的性能，尤其是零样本泛化能力。

    Feb, 2024