Feb, 2024

CLCE：优化学习融合的交叉熵和对比学习的改进方法

PDF
TL;DR我们介绍了一种名为 CLCE 的新方法，将标签感知对比学习与 CE 相结合，通过有效的负样本挖掘增强性能，在少样本学习和迁移学习中使得 CLCE 显著优于 CE。
pre-trained image modelscontrastive learninghard negative miningceclce
发现论文，激发创造
  • 无偏差高效的自监督增量对比学习

    本文提出了一种自我监督的增量对比学习框架 (ICL)，采用增量信息 NCE 损失函数和深度强化学习率 (meta-optimization with LRL)，从而避免了必须重训练的缺点，并在不同领域的广泛实验中取得了 16.7 倍的训练加速和 16.8 倍快速收敛的竞争性结果。

    Jan, 2023

  • 解耦对比学习

    本文提出了解决自监督对比学习中的批处理大小等参数问题的一种简单有效的基准方法（DCL），并对其进行了在多种基准测试中的复现和实时检验，最终实现了较少受亚优化超参数影响且性能不错的对比学习方法。

    Oct, 2021

  • 预训练语言模型微调的监督对比学习

    通过构建 SCL 算法，并将其应用到先前基于 RoBERTa-Large 模型的建议中，提出了一种新的有监督对比学习优化目标，用于自然语言理解任务的微调，在少样本学习设置下，相比于传统 CE 损失函数，该方法在多个数据集上均有显著的改进，可以更好地处理数据噪音并更好地推广至相关任务。

    Nov, 2020

  • 标签锚定对比学习用于语言理解

    本文提出一种基于标签锚定的对比学习方法（LaCon），用于自然语言理解分类任务中，不需要专门的网络架构或任何额外的数据增强，可轻松插入现有的强大预训练语言模型，相比于现有最先进技术，LaCon 在 GLUE 和 CLUE 基准测试数据集上有高达 4.1% 的提升，同时在少量样本和数据失衡的情况下也展现出显著的优势，获取了 FewGLUE 和 FewCLUE 基准测试任务高达 9.4% 的提升。

    Apr, 2022

  • 跨语言对齐的多层对比学习

    本文提出了一种多级对比学习（ML-CTL）框架，使用翻译后的平行数据并显式地整合每对平行句子的单词级信息进行对比学习，以进一步提高预训练模型的跨语言能力。其中，采用了交叉零噪声对比估计（CZ-NCE）损失来减轻训练过程中小批量大小的浮点误差的影响。该方法显著提高了基础模型（mBERT）的跨语言迁移能力，并在 Xtreme 基准测试的多个零 - shot 跨语言下游任务中表现优异。

    Feb, 2022

  • 对比学习提高模型在标签噪声下的鲁棒性

    本论文讨论如何提高基于深度神经网络分类器在训练数据中鲁棒性以解决标签噪声问题，通过代替分类交叉熵损失为适应标签噪声的损失函数，或者改变训练样本的权重来缓解标签噪声的影响，并介绍一种基于对比学习技术来初始化有监督鲁棒方法以解决高标签噪声下的图像分类问题的方法。

    Apr, 2021

  • 基于对比表示学习的聚类分配

    本文提出了一种基于对比学习的聚类方法，通过对表示进行分解，并使用分别编码不同信息的部分构建对比损失函数，可以高效地学习聚类结果。实验结果表明，该方法在多个标准数据集上取得了最新的甚至高居领先的聚类性能，尤其在 ImageNet 数据集上的准确率达到了 53.4％，并且优于现有方法。

    Jun, 2023

  • 对比学习用于标签少的语义分割

    本文提出了一种基于对比度学习的语义分割训练策略，使用像素级和标签基础对比损失的方法，能够在减少标记数据的情况下提高性能，并通过 Cityscapes 和 PASCAL VOC 2012 数据集的实验证明了该方法的有效性。

    Dec, 2020

  • U-CE: 语义分割的不确定性感知交叉熵

    利用动态预测不确定性的像素权重加权 U-CE（Uncertainty-aware Cross-Entropy loss）训练方法在两个基准数据集上优于传统 CE（cross-entropy loss）训练方法，提高了安全关键应用中更稳健可靠的分割模型的性能和可信度。

    Jul, 2023

  • BECLR: 批量增强对比式少样本学习

    用于无监督少样本学习的动态聚类内存模块 (DyCE) 和基于优化传输的分布对齐策略 (OpTA) 构成的全新端到端方法 (BECLR)，在现有的无监督少样本学习基准中取得了新的最优表现，明显优于当前最佳基准。

    Feb, 2024