May, 2023

InstructIE：一个基于中文指令的信息提取数据集

PDF
TL;DR该论文介绍了一种新的信息提取任务，名为 Instruction-based IE，旨在要求系统根据特定的指示或指南提取信息。作者从中文维基百科和高质量众包注释实例构造了一个名为 InstructIE 的数据集，并评估了各种基线模型在该数据集上的性能。结果表明，当前的模型表现出有希望的性能，但仍有改进的空间。此外，作者进行了综合案例分析，强调了 Instruction-based IE 任务中固有的挑战。
information extractioninstruction-based ieinstructie datasetbaseline modelschinese wikipedia
发现论文，激发创造
  • 指导与提取：面向按需信息提取的指令调优

    基于大型语言模型的指令跟随能力，我们提出了新的范式：按需信息提取，以满足真实用户的个性化需求。通过 InstructIE 基准测试及 ODIE 模型，我们展示了在信息提取领域的显著性能提升。

    Oct, 2023

  • InstructUIE: 统一信息抽取的多任务指令调整

    该论文提出了基于指令调整的统一信息提取框架 InstructUIE，它可以统一地建模各种信息提取任务并捕获任务间的依赖关系。在零样本设置下，该方法显著优于现有的大型语言模型和 gpt3.5。

    Apr, 2023

  • WebIE: 在网络上进行忠实和稳健的信息提取

    本文提出了 WebIE 数据集，其中包括 1.6M 个句子及其详细注释。基于此数据集，我们评估了基于生成模型的信息提取模型的跨域和跨语言性能，并提出了三种训练策略。我们的实验表明，实体链接方式得到明显提高。

    May, 2023

  • 基于正则化的迁移学习方法在通过指导的图解码器中的信息提取

    本研究提出了一种基于正则化的迁移学习方法，通过指导图解码器进行信息提取（IE）。我们构建了一个指令池，用于各种 IE 任务的数据集，然后提出了一个指导图解码器。通过基于相应指令将各种复杂结构解码为图的方式，我们可以学习和转移与现有数据集共享的常见知识到具有新标签的新数据集中。此外，为了缓解各种 IE 任务中的标签一致性问题，我们引入了一种任务特定的正则化策略，不更新具有 “相反方向” 的两个任务的梯度。我们对包括四个 IE 任务的 12 个数据集进行了大量实验，结果证明了我们提出方法的巨大优势。

    Mar, 2024

  • IEPile: 挖掘大规模基于模式的信息抽取语料库

    通过构建综合的双语（英语和汉语）信息抽取指示语料库 IEPile，可以提高大语言模型在信息抽取中的性能，尤其是零样本泛化能力。

    Feb, 2024

  • 利用增强的指令对大型语言模型进行精细化信息提取的基准测试

    引入了一种为大型语言模型定制的细粒度信息抽取基准数据集，通过评估发现编码器 - 解码器模型在泛化到未见过的信息类型方面表现良好，而 ChatGPT 对于新任务形式具有更大的适应性。结果还表明，性能不仅仅取决于模型规模，还强调了架构、数据多样性和学习技术的重要性。这项工作为在信息提取中更精细、更灵活地利用大型语言模型铺平了道路。

    Oct, 2023

  • 基于预训练语言模型的高效开放信息抽取数据学习

    通过将 OpenIE 任务形式巧妙地转换为 T5 模型的预训练任务形式，并引入锚点的创新概念，OK-IE 显著减少了对大量训练数据的需求，消除了模型收敛速度慢的问题，实验结果显示，相较于之前的 SOTA 方法，OK-IE 仅需 1/100 的训练数据量（900 个实例）和 1/120 的训练时间（3 分钟）即可达到可比较的结果。

    Oct, 2023

  • 信息提取的易到难学习

    本文针对信息提取系统在不同任务之间交互存在困难的问题，提出了一种易于模仿人类学习过程的三阶段联合学习框架，该框架可以使模型更好地学习不同任务之间的知识和提高其泛化能力， 在四项 IE 任务上进行的广泛实验表明了本框架的有效性。

    May, 2023

  • 从 LLM 中提炼元模型用于各类信息提取任务

    我们提出了一个称为 MetaIE 的新框架，通过学习提取 “重要信息” 来构建一个小型元模型，使得这个元模型可以有效和高效地适应各种信息提取任务，在少样本适应设置下获得更好的性能。

    Mar, 2024

  • InteractiveIE: 评估人工智能协作强度，提高信息提取性能

    本文探讨在缺乏预定义模板情况下，如何从零或最少的监督中从文档中归纳模板，以及如何使用自动问答生成来实现这个目标，结合少量人工监督提高模型的性能。实验结果表明，这种 InteractiveIE 方法在对昂贵的生物医药和法律文件进行信息提取时能够带来良好的性能提升。

    May, 2023