Mar, 2024

一种通道集合方法：无偏差和低方差的伪标签对半监督分类至关重要

PDF
TL;DR我们提出了一种轻量级通道级集成方法，用于将多个次优的伪标签有效地合并为理论上保证的无偏差和低方差的伪标签，该方法可轻松扩展到任何半监督学习框架，并在 CIFAR10/100 上显著优于现有技术，无论是在效果上还是效率上。
semi-supervised learningpseudo-label methodsself-trainingensemble methodssl framework
发现论文，激发创造
  • 平滑伪标签

    在半监督学习中，引入了一种平滑伪标签损失函数来解决标签稀缺性带来性能不稳定的问题，并通过实验验证了其在稀缺标签情况下的显著改善。此外，还提出了一个新的基准测试，在整个数据集中随机选择标记的图像，以改进半监督学习算法的可靠性和解释性。

    May, 2024

  • 关于伪标签的辩护：一种基于不确定性的半监督学习伪标签选择框架

    本文提出一种基于不确定性的假标签选择框架，通过减少训练过程中的噪音来提高假标签的准确性，并可以生成负假标签用于多标签分类和负学习，相比于最近的半监督学习方法在 CIFAR-10、CIFAR-100、UCF-101 和 Pascal VOC 数据集上获得了很好的性能。

    Jan, 2021

  • 通过连接高和低置信度预测增强半监督学习

    提出了一种名为 ReFixMatch 的新方法，旨在利用所有未标记数据进行训练，从而提高模型的泛化能力和在半监督学习基准测试上的性能。值得注意的是，ReFixMatch 在 ImageNet 上使用 10 万个标记示例时达到了 41.05％的 top-1 准确率，优于基准 FixMatch 和目前最先进的方法。

    Aug, 2023

  • FreeMatch: 半监督学习中的自适应阈值化

    本文提出一种自适应阈值调整方法 FreeMatch，以更好地利用未标记数据，另外还引入了自适应类公平性正则化惩罚来促进模型多样性预测。实验证明 FreeMatch 相对于最新的 FlexMatch 方法在 CIFAR-10、STL-10 和 ImageNet 上均表现更加优越，可提高不平衡 SSL 的性能。

    May, 2022

  • 一种使用正则化的置信度预测的不确定性感知伪标签选择框架

    该研究提出了一种基于不确定性感知的伪标签选择框架，利用符合规范化算法产生的不确定性集合，修复了拟合不当的神经网络，从而减少嘈杂的训练数据。

    Aug, 2023

  • 不要相信你所信任：半监督学习中的误校准

    本文通过实证研究表明，基于伪标签的半监督学习方法存在显著的误校准问题。为了解决这个问题，本文提出了一个简单的惩罚项，通过保持未标记样本的预测结果的对数距离较小，防止网络预测过于自信。在多个半监督学习图像分类评估中，全面的实验结果表明，所提出的解决方案能够系统地提高相关模型的校准性能，并提升它们的区分力，是应对半监督学习任务的一个有吸引力的补充。

    Mar, 2024

  • 具有熟练教师的半监督三维目标检测

    本文提出了一种新的 Pseudo-Labeling 半监督三维目标检测框架，通过引入 STE 和 CBV 模块提高了教师模型的性能，同时提出了 BCL 软监督信号来减小错误样本对训练的负面影响。实验证明，在 ONCE 和 Waymo 数据集上，我们的方法显著提高了基线，同时在 Waymo 数据集上，只使用了一半的注释即可超过完全注释的 oracle 模型。

    Jul, 2022

  • 伪标记的自动课程学习用于半监督关键点定位

    该研究采用一系列动态阈值来自动选择可靠的伪标签样本，形成一个学习课程，从而显著优于先前最先进的 SSL 方法，在六个 keypoint 本地化基准数据集上进行了广泛的实验。

    Jan, 2022

  • FixMatch：用一致性和置信度简化半监督学习

    该研究论文通过半监督学习中的一种简单的组合方法 —— 一致性正则化和伪标记生成，提出了 FixMatch 算法，该算法可有效提高网络模型的性能，且在多项半监督学习标准测试中均实现了最先进的表现。

    Jan, 2020

  • SoftMatch: 半监督学习中解决数量 - 质量平衡问题

    本文介绍了基于样本加权统一公式的伪标签方法及其 inherent quantity-quality trade-off 问题，并提出了利用截断高斯函数对置信度加权以实现软的置信度阈值。加强了弱学习类别的利用，在图像分类、文本分类和非平衡分类等多种基准测试中都取得了显著的改进。

    Jan, 2023