ACLMay, 2023

通过区分类似语义来提高持续关系提取

PDF
TL;DR该研究旨在学习新出现的关系，同时避免忘记学过的关系，提出了一种用于相似关系的新颖连续抽取模型，包括设计记忆无关的关系原型和记忆增强等方法，以克服过拟合问题，并引入集成训练和关键知识蒸馏来增强对相似关系的处理，实验结果表明该模型的优越性及对相似关系的区分能力。
continual relation extractionemerging relationsoverfittinganalogous relationsmemory augmentation
发现论文，激发创造
  • 连续关系抽取的一致表示学习

    研究了连续关系抽取中存在的历史信息遗忘问题，提出了一种基于对比学习和知识蒸馏的持续关系表示学习方法，能够有效地避免历史信息遗忘，并在 FewRel 和 TACRED 数据集上进行了大量实验，相比于现有基线算法，提出的方法表现更具鲁棒性。

    Mar, 2022

  • 串行对比知识蒸馏在连续少样本关系提取中的应用

    本文提出了一种新模型 SCKD，通过串行知识蒸馏来保留以前模型的先前知识，并通过伪样本进行对比学习，以保持不同关系样本的表示具有足够的可区分性，实现持续的少样本关系抽取任务，并在两个基准数据集上进行了验证。

    May, 2023

  • 持续对比微调改善低资源关系提取

    该论文介绍了一个用于解决低资源场景下关系抽取的方法，该方法基于自监督学习和对比学习，以一致的目标进行预训练和微调，在两个数据集上的实验表明，该方法在使用 1% 的数据时，较基于 PLM 的分类器分别提高了 10.5％和 5.8％的性能水平。

    Dec, 2022

  • 关系抽取的连续理由提取：合理思考所见

    本文提出了一种新的关系抽取框架 RE2，通过运用连续性和稀疏性因素来获取有关联且连贯的理由，从而解决了保留相关内容和移除噪声段落的难题。

    May, 2023

  • 基于理性增强的语言模型的连续关系学习能力更佳

    通过结合大型语言模型生成的关系分类结果解释策略，设计了多任务的合理调整策略和对比性合理重现方法来增强模型对当前和类似关系的学习能力，并在两个标准基准测试中证明了我们的方法优于现有的连续关系提取模型。

    Oct, 2023

  • DP-CRE: 通过解耦对比学习和记忆结构保持进行连续关系抽取

    DecouPled CRE (DP-CRE) framework effectively handles the challenge of catastrophic forgetting in Continuous Relation Extraction (CRE) by decoupling the preservation of prior information and acquisition of new knowledge, outperforming other CRE baselines in extensive experiments.

    Mar, 2024

  • 通过对抗类别增强学习连续关系抽取的强大表示

    通过实证研究，本文指出 Catastrophic Forgetting 问题的其中一个原因是在模型学习新关系时，旧关系的学习表示不够具有健壮性，而提出了一种称为 Adversarial Class Augmentation 的方法，它可以更精确和强健地学习表示，从而改善了 Continual Relation Extraction 模型的表现。

    Oct, 2022

  • 从未标注的文本中学习关系原型以进行长尾关系提取

    本论文提出一种学习关系原型的通用方法来处理关系抽取中的长尾问题，并应用于基于共现图的嵌入学习来优化实体对与对应原型间的距离，并在两个数据集上进行了广泛实验以验证其有效性。

    Nov, 2020

  • 面向生命关系抽取的句向量对齐

    本研究提出了一种基于记忆增量学习的关系抽取方法，通过利用带重现记忆的随机梯度优化方法和明确对齐模型，在保留之前任务学习经验的同时有效地适应新的数据和关系。实验表明，所提出的方法明显优于现有的生命周期学习方法。

    Mar, 2019

  • 面向鲁棒性连续关系抽取的课程元学习

    本文提出了一种基于课程元学习的方法来解决连续关系抽取中的灾难性遗忘和顺序敏感性等问题，并通过领域和关系类型的分布来设计关系表示学习方法，构建课程。同时，还提出了基于难度的度量来量化模型的顺序敏感性，并在三个基准数据集上进行实验验证出其优越性。

    Jan, 2021