缩小半监督学习的类空间以提高确定性
在真实应用中经常遇到标签模糊的数据,其中不同的标注者会给出冲突的类别标签。部分标签学习允许在这种弱监督的环境下训练分类器。虽然最先进的方法已经具有良好的预测性能,但它们经常受到错误校准的不确定性估计的影响。然而,拥有良好校准的不确定性估计在医学和自动驾驶等关键领域中尤为重要。本文中,我们提出了一种基于邻近 - 邻居的部分标签学习算法,利用了 Dempster-Shafer 理论。对人工和真实数据集的大量实验证明,所提出的方法提供了良好校准的不确定性估计,并取得了有竞争力的预测性能。此外,我们证明了我们的算法是风险一致的。
Feb, 2024
提出基于伪标签生成的半监督图像分类方法,利用 mixup 增广和每个 mini-batch 至少有数量的有标注样本的限制解决了伪标签带来的过度拟合问题,并在多个数据集上取得了最新的结果。
Aug, 2019
基于不确定性感知的动态阈值选择 (UDTS) 方法解决了半监督学习中类别不平衡的问题,通过引入模型预测的不确定性来调整伪标签选择阈值,提高了模型在长尾类别上的准确性。
Jan, 2024
本文针对有限标注信息下的半监督学习进行研究,分析了当前应用最广的半监督学习方法 FixMatch 在这种情况下的表现和局限,提出了一种利用自监督学习方法提供训练信号以及优化伪标签筛选过程的方案,并在 STL-10 数据集上得到了显著提高。
Dec, 2021
本文提出了一种基于不确定性感知的新型无监督目标函数,结合最近 SSL 技术,在保证计算效率的同时,在基准数据集中表现优于或与现有最先进技术水平相当,尤其在复杂数据集如 CIFAR-100 和 Mini-ImageNet 上表现最好。
Jul, 2022
本研究提出了基于类别置信度的三维半监督学习方法,在动态阈值策略和重新采样策略的帮助下,成功地解决了三维不平衡数据状态下监督学习的问题,并在分类和检测任务中得到了显著提高。
Oct, 2022
本文提出一种自适应阈值调整方法 FreeMatch,以更好地利用未标记数据,另外还引入了自适应类公平性正则化惩罚来促进模型多样性预测。实验证明 FreeMatch 相对于最新的 FlexMatch 方法在 CIFAR-10、STL-10 和 ImageNet 上均表现更加优越,可提高不平衡 SSL 的性能。
May, 2022
本文通过实证研究表明,基于伪标签的半监督学习方法存在显著的误校准问题。为了解决这个问题,本文提出了一个简单的惩罚项,通过保持未标记样本的预测结果的对数距离较小,防止网络预测过于自信。在多个半监督学习图像分类评估中,全面的实验结果表明,所提出的解决方案能够系统地提高相关模型的校准性能,并提升它们的区分力,是应对半监督学习任务的一个有吸引力的补充。
Mar, 2024