半监督和无监督深度视觉学习:一项综述
该论文探讨了自我监督方法在无监督视觉表示学习中的重要性,提出之前CNN设计的标准配方不一定适用于自我监督表示学习, 并大幅度提高了之前提出技术的性能,超越了之前公布的最先进结果。
Jan, 2019
本文回顾了最近在无监督和半监督学习领域取得的进展,分类了一大类模型,并探讨了这些模型与探索新思想的相互作用以及它们在生成模型中的实现。文章还提出了将无监督预训练与有监督微调结合起来的未来方向,并展望了表示学习的未来方向。
Mar, 2019
通过利用大量未标记的图像,本文提出了一种基于师生范式的管道来改善卷积神经网络的性能,并对我们的方法取得成功的因素提供了广泛的分析,从而为图像分类的半监督学习产生高精度模型提出了建议。
May, 2019
本文介绍了一种基于自监督正则化的半监督学习方法,其中利用了大量未标记数据来提高模型的性能,并且可以有效地应用于图像分类任务中,不需要任何补充的超参数进行调整。实验结果表明,该方法优于传统的监督和半监督学习方法。
Jun, 2019
本文提出了一种基于卷积神经网络(CNN)的半监督学习方法:VideoSSL,用于视频分类,可以在只使用少量标注样本以及利用无标注数据的两种信号指导下,在UCF101、HMDB51和Kinetics三个公开数据集上实现出色的性能。
Feb, 2020
本文研究如何通过无监督预训练和有标签数据微调相结合,使用大型深度神经网络,在少量标签的情况下实现半监督学习。该方法在ImageNet数据集上实现了10倍效率提升,在只有1%标签的情况下,使用ResNet-50模型获得了73.9%的top-1准确率。
Jun, 2020
本文针对深度半监督学习方法中的模型设计和无监督损失函数的透视,提供了关于基础和最新进展的全面调查,首先提出了将现有方法分类的深度半监督学习分类法,包括深度生成方法、一致性正则化方法、基于图的方法、伪标记方法和混合方法,然后全面回顾了52种代表性方法,并详细比较了这些方法在损失类型、贡献和架构差异方面的差异。除了过去几年的进展外,我们进一步讨论了一些现有方法的缺点,并提供了一些试探性的启发式解决方案来解决这些开放性问题。
Feb, 2021
本文综述了半监督学习在目标检测任务中的27种最新发展,从卷积神经网络到Transformer,探讨了半监督学习的核心组件及其与目标检测框架的集成,包括数据增强技术、伪标签策略、一致性正则化和对抗训练方法,并对各种SSOD模型进行了详细的比较分析,评估其性能和架构差异。旨在引发对克服现有挑战和探索半监督学习在目标检测中新方向的研究兴趣。
Jul, 2024
本研究解决了深度神经网络在计算机视觉中对大量标注样本依赖的问题,提出了对伪标签的更广泛理解,涵盖了自监督和无监督方法。通过探讨这些领域之间的联系,研究识别出新的方向,表明一领域的进展可有助于其他领域的发展,特别是在课程学习和自监督正则化方面。
Aug, 2024