提出基于伪标签生成的半监督图像分类方法,利用mixup增广和每个mini-batch至少有数量的有标注样本的限制解决了伪标签带来的过度拟合问题,并在多个数据集上取得了最新的结果。
Aug, 2019
该研究论文通过半监督学习中的一种简单的组合方法——一致性正则化和伪标记生成,提出了FixMatch算法,该算法可有效提高网络模型的性能,且在多项半监督学习标准测试中均实现了最先进的表现。
Jan, 2020
本文提出了基于Pair Loss和MixMatch技术的SimPLE算法,通过挖掘标记和未标记数据之间的关系,显著提升了 CIFAR-100 和 Mini-ImageNet 上的性能,并在 CIFAR-10 和 SVHN 上达到了最新方法的水平。此外,SimPLE算法还在迁移学习设置中优于预训练模型。
Mar, 2021
本文提出了SemCo方法,该方法结合标签语义和联合训练来解决半监督学习中伪标记质量差的问题,该方法在各种SSL任务中实现了最先进的性能,例如使用1000个标记的样本的Mini-ImageNet数据集上提高了5.6%的准确性。
Apr, 2021
本文针对有限标注信息下的半监督学习进行研究,分析了当前应用最广的半监督学习方法FixMatch在这种情况下的表现和局限,提出了一种利用自监督学习方法提供训练信号以及优化伪标签筛选过程的方案,并在STL-10数据集上得到了显著提高。
Dec, 2021
该论文提出两种新的技术(即熵值含义损失和自适应负样本学习),以更好地利用所有未标记的样本,并把它们与前沿的 FixMatch 框架相结合,通过多次实验在多个常见的 SSL 基准上表现出优越性能。
Mar, 2023
MarginMatch是一种结合一致性正则化和伪标记的新的SSL方法,其主要创新在于使用无标签数据的训练动态来衡量伪标签的质量,以确保屏蔽低质量预测;在低数据情况下,MarginMatch在四个视觉基准测试以及两个大规模数据集上都取得了显著的改进,并且在每类只有25个标签的CIFAR-100上提高了3.25%的错误率,在每类只有4个标签的STL-10上提高了3.78%的错误率。
Aug, 2023
本文通过实证研究表明,基于伪标签的半监督学习方法存在显著的误校准问题。为了解决这个问题,本文提出了一个简单的惩罚项,通过保持未标记样本的预测结果的对数距离较小,防止网络预测过于自信。在多个半监督学习图像分类评估中,全面的实验结果表明,所提出的解决方案能够系统地提高相关模型的校准性能,并提升它们的区分力,是应对半监督学习任务的一个有吸引力的补充。
Mar, 2024
在半监督学习中,引入了一种平滑伪标签损失函数来解决标签稀缺性带来性能不稳定的问题,并通过实验验证了其在稀缺标签情况下的显著改善。此外,还提出了一个新的基准测试,在整个数据集中随机选择标记的图像,以改进半监督学习算法的可靠性和解释性。
May, 2024
本研究解决了深度神经网络在计算机视觉中对大量标注样本依赖的问题,提出了对伪标签的更广泛理解,涵盖了自监督和无监督方法。通过探讨这些领域之间的联系,研究识别出新的方向,表明一领域的进展可有助于其他领域的发展,特别是在课程学习和自监督正则化方面。
Aug, 2024