Sep, 2022

简而言之：用一种令人沮丧却行之有效的方法重新思考最新连续关系抽取模型

PDF
TL;DR提出了一个名为 FEA 的连续关系抽取方法，其中包含两个学习阶段：快速适应和平衡微调。该方法适用于处理类增量数据流，并在 TACRED 或 FewRel 上实现了与最先进的基线相当或更高的性能。通过对数据不平衡的仔细检查，我们发现 FA 阶段可以放大内存数据的潜力，而 BT 阶段有助于建立更平衡的决策边界。此方法提供了可操作的见解和建议，为未来的 CRE 模型设计提供启示。
continual relation extractionfrustratingly easy but effective approachfast adaptionbalanced tuningdata imbalance
发现论文，激发创造
  • 通过分类器分解增强连续关系抽取

    许多先前的 CRE 研究仅采用传统策略，但是本文提出，此策略在训练后会出现分类器偏差和表示偏差，导致模型遗忘已学习的知识，因此我们提出了一个简单而有效的分类器分解框架，实验结果表明我们的方法性能优于现有的方法。

    May, 2023

  • 通过对抗类别增强学习连续关系抽取的强大表示

    通过实证研究，本文指出 Catastrophic Forgetting 问题的其中一个原因是在模型学习新关系时，旧关系的学习表示不够具有健壮性，而提出了一种称为 Adversarial Class Augmentation 的方法，它可以更精确和强健地学习表示，从而改善了 Continual Relation Extraction 模型的表现。

    Oct, 2022

  • 连续关系抽取的一致表示学习

    研究了连续关系抽取中存在的历史信息遗忘问题，提出了一种基于对比学习和知识蒸馏的持续关系表示学习方法，能够有效地避免历史信息遗忘，并在 FewRel 和 TACRED 数据集上进行了大量实验，相比于现有基线算法，提出的方法表现更具鲁棒性。

    Mar, 2022

  • 改进预训练语言模型以提升持续少样本关系抽取能力

    使用 Prompt Learning 框架和对抗式学习等技术，本文提出了一种解决持续的少样本关系抽取中灾难性遗忘和过拟合问题的方法，该方法通过引入更广义的知识表示和关注难例样本实现了对预训练语言模型的扩展和优化，同时引入有效的内存增强策略来缓解在资源匮乏情况下的过拟合问题，并通过大量实验证明了该方法在性能上超过了现有方法，并且在资源匮乏情景下显著降低了灾难性遗忘和过拟合。

    Feb, 2024

  • FastRE：基于卷积编码器和改进级联二元标注框架的快速关系抽取

    本文提出一种基于卷积编码器和改进的级联二进制标记框架的快速关系提取模型 (FastRE)，通过采用多项创新来提高效率并保持优异的性能，实验结果表明 FastRE 在效率和性能之间取得了良好的平衡。

    May, 2022

  • DP-CRE: 通过解耦对比学习和记忆结构保持进行连续关系抽取

    DecouPled CRE (DP-CRE) framework effectively handles the challenge of catastrophic forgetting in Continuous Relation Extraction (CRE) by decoupling the preservation of prior information and acquisition of new knowledge, outperforming other CRE baselines in extensive experiments.

    Mar, 2024

  • 基于理性增强的语言模型的连续关系学习能力更佳

    通过结合大型语言模型生成的关系分类结果解释策略，设计了多任务的合理调整策略和对比性合理重现方法来增强模型对当前和类似关系的学习能力，并在两个标准基准测试中证明了我们的方法优于现有的连续关系提取模型。

    Oct, 2023

  • 持续对比微调改善低资源关系提取

    该论文介绍了一个用于解决低资源场景下关系抽取的方法，该方法基于自监督学习和对比学习，以一致的目标进行预训练和微调，在两个数据集上的实验表明，该方法在使用 1% 的数据时，较基于 PLM 的分类器分别提高了 10.5％和 5.8％的性能水平。

    Dec, 2022

  • 神经度量学习用于快速端到端关系抽取

    本文提出了一种新颖的神经架构，利用表格结构和二维卷积技术进行本地依赖特征池化，从而改善了以往的最佳性能，在不需要全局优化的前提下实现了端对端关系提取任务（包括命名实体识别和关系抽取），相较于之前最好的结果提高了约 1％的 F1 分数，并且训练和测试时间快 7 至 10 倍。

    May, 2019

  • 学习解耦关系：利用实体引导的注意力和混淆感知训练进行少样本关系分类

    本研究旨在增强少样本关系分类，特别是针对联合描述多个关系的句子。我们提出了 CTEG 模型，它配备了两种机制，以学习如何解耦易混淆的关系：一个基于实体引导的注意机制 (EGA) 和一个明确学习如何区分关系的混淆感知训练 (CAT) 方法。实验证明，我们提出的 EGA 和 CAT 可有效解决关系混淆问题，并实现了与强基线方法相当甚至更好的分类效果。

    Oct, 2020