May, 2023

用噪声引导攻击增强对比学习：迈向野外连续关系提取

PDF
TL;DR本文提出了一种更实用的关系抽取学习场景，被称为 “noisy-CRE”。针对实际数据集中的噪声标签，提出了一种基于特征空间扰动的噪声抵抗对比学习框架 NaCL，可以学习到增量性的异常关系，同时在噪声率逐渐增加的情况下实现了持续的性能改进，优于现有的基准模型。
continual relation extractionnoisy-crenoise-resistantcontrastive learningincremental corrupted relations
发现论文，激发创造
  • 通过对抗类别增强学习连续关系抽取的强大表示

    通过实证研究，本文指出 Catastrophic Forgetting 问题的其中一个原因是在模型学习新关系时，旧关系的学习表示不够具有健壮性，而提出了一种称为 Adversarial Class Augmentation 的方法，它可以更精确和强健地学习表示，从而改善了 Continual Relation Extraction 模型的表现。

    Oct, 2022

  • 使用噪声增强对比学习的文本后门防御

    该研究提出了基于噪声增强对比学习（NCL）框架，以保护使用不可信数据训练模型的文本后门攻击。实验表明该方法的有效性，比先前的研究表现更好。

    Mar, 2023

  • DP-CRE: 通过解耦对比学习和记忆结构保持进行连续关系抽取

    DecouPled CRE (DP-CRE) framework effectively handles the challenge of catastrophic forgetting in Continuous Relation Extraction (CRE) by decoupling the preservation of prior information and acquisition of new knowledge, outperforming other CRE baselines in extensive experiments.

    Mar, 2024

  • 连续关系抽取的一致表示学习

    研究了连续关系抽取中存在的历史信息遗忘问题，提出了一种基于对比学习和知识蒸馏的持续关系表示学习方法，能够有效地避免历史信息遗忘，并在 FewRel 和 TACRED 数据集上进行了大量实验，相比于现有基线算法，提出的方法表现更具鲁棒性。

    Mar, 2022

  • 关系抽取的细粒度对比学习

    本文提出了 FineCL 方法，即利用细粒度信息来提高关系提取中学习关系表示的质量，该方法通过训练语言模型以获得标签顺序并判断标签准确性，在预训练中增加准确标签的权重，实验结果表明 FineCL 方法在多个关系提取基准测试任务中都取得了显著的性能提升。

    May, 2022

  • HiCLRE：一种基于分层对比学习的远程监督关系抽取框架

    本文提出了一种基于对比学习的层次化关系抽取框架（HiCLRE），该框架结合全局结构信息和局部微粒度交互以减少噪声句子，并在不同的 DSRE 数据集中均显著优于强基准模型，其中包括了远程监督、关系抽取、多粒度重上下文化和对抗扰动等关键词。

    Feb, 2022

  • 对比对抗训练中通过认知失调缓解实现健壮性

    本文介绍了一种新的神经网络训练框架，通过将对比学习与对抗训练相结合，增强了模型对对抗攻击的鲁棒性，同时保持高干净度的准确性。作者发现对比学习有助于提高对抗性鲁棒性，并使用 CIFAR-10 数据集验证了他们的方法，发现其优于其他监督和自监督方法。

    Mar, 2022

  • 基于理性增强的语言模型的连续关系学习能力更佳

    通过结合大型语言模型生成的关系分类结果解释策略，设计了多任务的合理调整策略和对比性合理重现方法来增强模型对当前和类似关系的学习能力，并在两个标准基准测试中证明了我们的方法优于现有的连续关系提取模型。

    Oct, 2023

  • 基于通道的对比学习用于噪声标签学习

    通过通道对比学习方法，本文提出了一种新的学习方法，用于从嘈杂标签中提取关键特征，辨别真实的类别，并在多个基准数据集上验证了其卓越性能。

    Aug, 2023

  • 针对监督学习和对比学习同时的高效可用性攻击

    通过采用对比样本增强的方式，在监督学习和对比学习算法中实现了卓越的模型无法学习性能，以提高数据保护的能力。

    Feb, 2024