Feb, 2021

深度半监督学习调研

PDF
TL;DR本文针对深度半监督学习方法中的模型设计和无监督损失函数的透视，提供了关于基础和最新进展的全面调查，首先提出了将现有方法分类的深度半监督学习分类法，包括深度生成方法、一致性正则化方法、基于图的方法、伪标记方法和混合方法，然后全面回顾了 52 种代表性方法，并详细比较了这些方法在损失类型、贡献和架构差异方面的差异。除了过去几年的进展外，我们进一步讨论了一些现有方法的缺点，并提供了一些试探性的启发式解决方案来解决这些开放性问题。
deep semi-supervised learningmodel designunsupervised loss functionstaxonomyconsistency regularization methods
发现论文，激发创造
  • 深度半监督学习概述

    本文综述了深度半监督学习的概念及其在深度神经网络上的应用，以期实现更高的数据效率。

    Jun, 2020

  • 深度生成模型的半监督学习

    利用迭代方法的变分技术，基于生成模型，研发半监督学习的新算法，解决现代数据分析中处理大规模非标记数据集挑战。深度生成模型与贝叶斯推理结合，灵活、高效、可拓展，为半监督学习提供了有力支持。

    Jun, 2014

  • 半监督和无监督深度视觉学习：一项综述

    本文综述了针对可视化识别问题的先进深度学习算法在半监督学习和无监督学习范式下的研究进展，提出了统一的分类方法，并分析了它们在不同学习场景和计算机视觉任务中的设计原理及应用，最后探讨了 SSL 和 UL 中的新趋势和挑战。

    Aug, 2022

  • 大数据时代中的小数据挑战：无监督和半监督方法的最新进展综述

    本文回顾了最近在无监督和半监督学习领域取得的进展，分类了一大类模型，并探讨了这些模型与探索新思想的相互作用以及它们在生成模型中的实现。文章还提出了将无监督预训练与有监督微调结合起来的未来方向，并展望了表示学习的未来方向。

    Mar, 2019

  • 半监督式目标检测：近期研究和发展综述

    本文综述了半监督目标检测的五个方面，包括数据增强、数据标注、损失函数和常见基准数据集等。通过对各种方法的比较和分析，为读者提供了对该领域研究现状和未来发展方向的深入了解。

    Jun, 2023

  • 标签传播用于深度半监督学习

    本研究利用基于流形假设的传导标签传播方法，对整个数据集进行预测，并利用这些预测值为未标记数据生成伪标签，并训练深度神经网络。经实验证明，这种方法在几种数据集中相对于当前的最新技术表现更好，特别是在有限标志数量的情况下。

    Apr, 2019

  • 针对分布偏移的图像分类半监督深度学习综述

    本篇文章研究了半监督深度学习的最新方法，重点是针对标记和未标记数据集之间分布差异的情况设计的半监督深度学习模型，致力于解决传统深度学习流水线在实际使用环境下对数据的高需求，并希望鼓励社区应对该方面的挑战。

    Mar, 2022

  • 自学习：一项调查

    本文介绍了二元和多类分类的自学习方法及其变体，并探讨了一些新的方法。我们评估了这些方法在不同的基准分类数据集上的表现，并提出了未来研究的思路。这是首个完整分析的经验综述。

    Feb, 2022

  • 自监督学习：生成或对比

    本文介绍自监督学习作为深度学习替代方案的优势及其在计算机视觉、自然语言处理和图学习中的应用，分类总结了现有的自监督学习方法，并进一步探讨其相关的理论分析工作，最后简要讨论了自监督学习的未来方向和开放性问题.

    Jun, 2020

  • 深度半监督学习算法的实际评估

    通过实现多种常用的 SSL 技术并在一系列实验中进行测试，研究发现简单基线方法的表现通常被低估，而 SSL 方法对标记和未标记数据的敏感性不同，当未标记数据集包含类外示例时性能可能会显著下降，因此我们提供了一个公共代码重现平台以帮助实现 SSL 技术在实际应用中的可行性。

    Apr, 2018