Jul, 2022

在线半监督对比学习用于通用连续学习

PDF
TL;DR该研究提出了一种适用于部分标记数据的对比损失函数 SemiCon，并通过利用无标签数据流训练的基于记忆的方法来证明了其有效性。在 Split-CIFAR10 和 Split-CIFAR100 数据集上，与现有的半监督方法相比，我们的方法在可用很少的标签时效果更佳，只使用了 2.6％的标签和 10％的标签，就可以获得与最新的监督方法相似的结果。
online continual learningsemiconpartly labeled datamemory-based methodsemi-supervised methods
发现论文，激发创造
  • 基于插值的对比学习用于少标签半监督学习

    提出了一种基于插值方法的半监督学习算法来解决使用一些标签的数据集时一致性正则化方法的性能问题，并设计了一种新型对比损失来引导学习网络嵌入样本，实现更好的边界决策能力，通过实验证明，与现有算法相比，该算法可提高分类准确率 5.3% 以上。

    Feb, 2022

  • 通过对比插值一致性进行持续的半监督学习

    本文探讨了基于少量标注数据的持续半监督学习问题，并设计了一种利用度量学习和一致性正则化的新方法，仅依赖 25% 的监督数据即可优于全监督训练下的 SOTA 方法。

    Aug, 2021

  • CNLL：一种半监督的持续学习噪声标签方法

    本文旨在解决在线学习时遭遇的标签噪声问题，提出了一种简单有效、代价低廉的在线数据流净化技术，并通过半监督的微调方法使算法真正参与所有可用的样本，从而取得了在 MNIST、CIFAR10 和 CIFAR100 数据集上的 SOTA 性能。

    Apr, 2022

  • 在线众包注释中不充分和模糊监督问题缓解方向

    通过众包标注系统和基于伪标签和对比学习的新方法，解决了由于用户知识、文化背景差异和获得监督信息的高成本而导致的标注信息不充分和含糊不清的问题，实现了半监督部分标签学习的最先进表现。

    Oct, 2022

  • 具有广义对比损失的半监督对比学习及其在说话人识别中的应用

    介绍了一种半监督对比学习框架，应用于无文本说话人验证，通过广义对比损失，将监督度量学习和无监督对比学习统一，从而自然地确定了半监督学习的损失。在 VoxCeleb 数据集上进行实验，演示了 GCL 使得听众嵌入在三种方式下学习，监督学习、半监督学习和无监督学习，而不需要更改损失函数的定义。

    Jun, 2020

  • 半监督连续学习梯度预测

    论文探索了半监督持续学习方法，该方法能从标记数据中预测未标记数据的梯度，进而将未标记数据应用到有监督持续学习中。实验结果表明，未标记图像可以增强持续学习模型对未见数据的预测能力并显著缓解灾难性遗忘。

    Jan, 2022

  • 半监督点云语义分割的引导点对比学习

    本文介绍了一种半监督点云语义分割方法，使用伪标签指导其损失函数，并提出了一种基于对比损失的方法来增强特征表示和模型的泛化能力。实验证明，该方法在三个数据集上都可以有效地提高预测质量。

    Oct, 2021

  • 超网络用于连续的半监督学习

    该研究提出了一种用于半监督连续学习的元一致性框架，该框架采用超网络来学习基础网络的半监督辅助分类器生成对抗网络的权重，并整合了超网络中连续任务的知识，以在新集合上进行测试。

    Oct, 2021

  • 重新思考弱监督在协同学习中的应用

    研究了在弱监督下利用联合训练有监督和无监督对比损失来训练相似图，证明了半监督标签可以改善下游分类错误的绑定，而噪声标签的影响有限。

    Jun, 2023

  • 半监督端到端对比学习用于时间序列分类

    本文提出了一个称为 SLOTS（半监督学习用于时间分类）的端到端模型，该模型利用无标签样本和少量有标签样本来训练编码器和分类器，并使用无监督对比损失、有监督对比损失和分类损失来优化模型。通过与十种最先进的方法在五个数据集上的比较，实验结果表明 SLOTS 是一个简单而有效的框架，相较于两阶段的方法，SLOTS 在相似的计算成本下，能够以显著提升的性能使用相同的输入数据。

    Oct, 2023