Dec, 2022

持续对比微调改善低资源关系提取

PDF
TL;DR该论文介绍了一个用于解决低资源场景下关系抽取的方法，该方法基于自监督学习和对比学习，以一致的目标进行预训练和微调，在两个数据集上的实验表明，该方法在使用 1% 的数据时，较基于 PLM 的分类器分别提高了 10.5％和 5.8％的性能水平。
relation extractionself-supervised learningcontrastive learningpretraininglow-resource scenarios
发现论文，激发创造
  • 朝着现实低资源关系抽取的方向：具有实证基线研究的基准测试

    本文通过三种不同的方案对低资源情况下关系抽取系统进行了全面研究，并创建了包含 8 个 RE 数据集的基准，示范了不同的方法与结合的影响，结果表明虽然基于提示的调整有助于低资源 RE，但在从跨句子上下文中提取多个关系三元组时仍有很大改善潜力，数据增强与自我训练可以较好地充实现有基准，并可带来很多性能提升，然而自我训练并不能始终实现低资源关系抽取的进步。

    Oct, 2022

  • 关系抽取的细粒度对比学习

    本文提出了 FineCL 方法，即利用细粒度信息来提高关系提取中学习关系表示的质量，该方法通过训练语言模型以获得标签顺序并判断标签准确性，在预训练中增加准确标签的权重，实验结果表明 FineCL 方法在多个关系提取基准测试任务中都取得了显著的性能提升。

    May, 2022

  • 跨域关系抽取的银语法预训练

    本文介绍了基于句法结构和语义之间的亲缘关系，并据此进行中间预训练的关系抽取模型。通过使用相关句法关系进行预训练，不需要额外标注的情况下，该模型在六个跨域设置中有五个比基线模型表现更好。

    May, 2023

  • 把握要点：为零 shot 关系抽取量身定制大型语言模型

    通过使用语言模型生成初始种子实例并结合反馈进行改进，在关系抽取任务中实现零样本学习，取得了较基准方法更好的性能。

    Feb, 2024

  • 深度学习在关系抽取中的综合调查：最新进展与新前沿

    本研究综述了关系抽取领域深度学习技术的现状，涵盖资源、分类、挑战和未来方向等方面，有望促进研究者共同探索真实生活中关系抽取系统的挑战。

    Jun, 2023

  • 协同锚定对比式预训练在少样本关系抽取中的应用

    通过预训练语言模型和锚定对比预训练框架，本研究在少样本关系抽取中取得了显著的性能提升，并展示了对领域迁移和零样本关系抽取的优越适应能力。

    Dec, 2023

  • 多视角解耦学习改进低资源基于提示的关系表示

    在低资源情境下，通过多视角关系表示的基于提示的方法（MVRE）能够有效提高关系抽取任务的性能，并在三个基准数据集上达到了最先进的低资源表现。

    Dec, 2023

  • 具有不完全注释的关系抽取的适应性自训练

    本文提出了一种新的自适应重新采样自训练框架，采用精度和召回率对每个类别的伪标签进行重新采样，以增加整体召回率而不过多牺牲精度，并在文件级别和生物医学关系提取数据集上进行实验表明，所提出的自训练框架在数据集的不完全注释时比现有方法表现要好。

    Jun, 2023

  • GPT-RE：利用大型语言模型进行关系抽取的上下文学习

    本研究介绍了 GPT-RE，这是一种解决大型语言模型在关系提取中局限性的方法，包括任务特定实体表现的使用和黄金标签引导推理逻辑的使用。该方法在四个数据集上的实验结果表明其超过了 GPT-3 基线并且在 Semeval 和 SciERC 数据集上实现了 SOTA 表现。

    May, 2023

  • 句子级关系抽取的改进基准线

    该文介绍了基于句子的关系抽取问题，着重探讨了影响现有关系抽取模型性能的实体表示和噪声标签问题，并利用预训练语言模型提出了改进的基线模型，在 TACRED 数据集上取得了 F1 分数 74.6%，在 Re-TACRED 数据集上取得了 F1 分数 91.1%，证明预训练语言模型在该任务上具有高性能。

    Feb, 2021