Jun, 2019

探索自监督正则化在监督学习和半监督学习中的应用

PDF
TL;DR本文介绍了一种基于自监督正则化的半监督学习方法，其中利用了大量未标记数据来提高模型的性能，并且可以有效地应用于图像分类任务中，不需要任何补充的超参数进行调整。实验结果表明，该方法优于传统的监督和半监督学习方法。
发现论文，激发创造
  • S4L：自监督半监督学习

    本研究探讨了图像分类器的半监督学习问题，提出了自监督半监督学习框架，并使用该框架派生出两种新的半监督图像分类方法。在 ILSVRC-2012 测试中，证明了该方法与现有半监督学习方法相比的有效性和新的最佳结果。

    May, 2019

  • 半监督学习的对比正则化

    本文中提出的聚类特征对比正则化方法在半监督学习中取得了最先进的结果，通过聚类伪标签的归属特征来更新模型，以便更有效地将标记信息传播到更多未标记样本。

    Jan, 2022

  • 半监督和自监督学习在医学图像上的准确率与时间前沿

    对医学图像分类应用进行的研究表明，使用未标记的数据可以提高分类器的性能，通过自监督学习和半监督学习的方法，本研究在医学图像领域设计了一个基准测试，发现 MixMatch、SimCLR 和 BYOL 方法是强有力的选择，并提供适用于新医学任务的设置以及进一步搜索的方法。

    Jul, 2023

  • 自监督一致性训练用于高效组织病理图像分析

    利用基于多分辨率背景下组织病理全切片图像的潜在上下文线索的自我监督预训练任务，以及新型的师生半监督一致性模式，使用任务无关和任务特定无标签数据来学习强大的监督信号进行无监督表征学习，并在有限标签数据下表现出与其他现有最先进方案相近乃至优越的性能。

    Feb, 2021

  • 超球面一致性正则化

    本文介绍了一种基于共享特征编码器的监督学习和无监督学习的联合训练方式，结合自监督学习和有标签信息可以提高性能，但该方案仍存在分类器偏差问题。因此，提出了一种名为超球面一致性正则化 (HCR) 的简单但高效的方法来避免标签偏差问题，通过特征依赖信息对分类器进行正则化。该方法通过最小化二元交叉熵的成对距离相似性度量来实现数据点具有相似结构，实验证明该方法在半监督和弱监督学习中表现优异。

    Jun, 2022

  • 语义标签能帮助自监督视觉表征学习吗？

    本文提出了一种名为 SCAN 的新算法，该算法通过最大限度地防止语义指导损坏外观特征嵌入，有效的融合了有监督和自监督学习方法，取得了比以往的有监督和自监督方法更好的性能，并揭示了语义标签在辅助自监督方法中的作用。

    Nov, 2020

  • 医学图像半监督分割中的变换一致自组织模型

    本文提出一种半监督方法用于医学图像分割。该方法包括深度学习、正则化、自举等关键技术，并在多个医学图像数据集上进行了验证和表现优于其他方法。

    Feb, 2019

  • 无标签数据提高对抗鲁棒性

    通过理论和实验，我们证明了半监督学习可以显著提高对抗性鲁棒性，实验结果表明在 CIFAR-10 上使用 500k 未标记图像，使用自我训练方法可以超过最先进的对抗性鲁棒的准确度。在 SVHN 上，使用模型自身的额外的训练集可以提高 4 至 10 个百分点，与使用额外标签的提高量相差不大。

    May, 2019

  • 使用自监督学习能够提升模型的鲁棒性和不确定性

    自我监督能够提高深度学习在鲁棒性、异常检测等难题上的表现甚至超越了全监督学习，成为未来自我监督学习研究的新方向。

    Jun, 2019

  • 主动学习的边际效益：自我监督是否自欺欺人？

    本研究提供了一个将自我监督预训练、主动学习和一致性正则化自我训练整合的新算法框架，并在 CIFAR10 和 CIFAR100 数据集上进行了实验，揭示了自我监督预训练在半监督学习中的重要性，被 S4L 技术所替代的主动学习的价值。

    Nov, 2020