MutexMatch: 基于互斥一致性正则化的半监督学习
该研究论文通过半监督学习中的一种简单的组合方法 —— 一致性正则化和伪标记生成,提出了 FixMatch 算法,该算法可有效提高网络模型的性能,且在多项半监督学习标准测试中均实现了最先进的表现。
Jan, 2020
MarginMatch 是一种结合一致性正则化和伪标记的新的 SSL 方法,其主要创新在于使用无标签数据的训练动态来衡量伪标签的质量,以确保屏蔽低质量预测;在低数据情况下,MarginMatch 在四个视觉基准测试以及两个大规模数据集上都取得了显著的改进,并且在每类只有 25 个标签的 CIFAR-100 上提高了 3.25%的错误率,在每类只有 4 个标签的 STL-10 上提高了 3.78%的错误率。
Aug, 2023
本文提出一种自适应阈值调整方法 FreeMatch,以更好地利用未标记数据,另外还引入了自适应类公平性正则化惩罚来促进模型多样性预测。实验证明 FreeMatch 相对于最新的 FlexMatch 方法在 CIFAR-10、STL-10 和 ImageNet 上均表现更加优越,可提高不平衡 SSL 的性能。
May, 2022
本文介绍了一种名为 ConMatch 的新型半监督学习框架,它在图像的两个强大的增强视图的模型预测之间智能地利用一致性正则化,权重由伪标签的置信度确定。该方法通过弱增强视图作为锚点,提出了新的伪标签置信度度量方法,包括非参数方法和参数方法。特别是,在参数方法中,我们首次提出在网络内学习伪标签置信度,可以端到端地与骨干模型一起训练。在现有的半监督学习中加入 ConMatch 可以持续提高性能,本文通过实验和大量的消融研究证明了 ConMatch 的有效性。
Aug, 2022
提出了一种名为 DualMatch 的新型半监督学习方法,其中类别预测以双层交互方式调用特征嵌入,通过一致的正则化确保不同的增强视图受到一致的类别预测约束,并确保同一类别的不同数据具有类似的特征嵌入,实验证明了 DualMatch 的有效性。
Oct, 2023
AlphaMatch 是一种高效的半监督学习方法,利用数据增强实现标签一致性,通过 alpha-divergence 使高置信度的数据优先接受正则化,使用基于优化的 EM 算法作为一致性的实现方式,可以在标准数据集上取得更好的表现。
Nov, 2020
本文提出了一种称为 OpenMatch 的开放集半监督学习方法,该方法利用 novelty detection 基于 one-vs-all classifiers 来拒绝处理 unlabeled data 中的离群值,同时引入了开放集软一致性正则化损失来增强 OVA-classifier 对于输入变换的平滑性,并在三个数据集上实现了最先进的性能。
May, 2021
SelfMatch 是一个半监督学习方法,结合了对比自监督学习和一致性正则化的优势,经过两个阶段的自欺诈预训练和半监督微调,能够仅仅使用少量标签缩小半监督学习和有监督学习之间的准确率差距,在 CIFAR-10 和 SVHN 等基准数据集上都实现了最先进的结果。
Jan, 2021
提出了一种名为 CCSSL 的半监督学习方法,采用类别聚类和图像对比改善模型的伪标签质量和在真实世界中的鲁棒性,并通过目标重新加权实现了干净标签学习和减少噪声标签学习。实验表明其在多个数据集上均取得了显著的性能提升。
Mar, 2022
使用多重数据增强及一致性约束,提出了一种高效半监督学习方法 SequenceMatch,可解决确认偏见问题并在标准基准测试中实现更高的准确性。
Oct, 2023