深度半监督学习概述
本文针对深度半监督学习方法中的模型设计和无监督损失函数的透视,提供了关于基础和最新进展的全面调查,首先提出了将现有方法分类的深度半监督学习分类法,包括深度生成方法、一致性正则化方法、基于图的方法、伪标记方法和混合方法,然后全面回顾了 52 种代表性方法,并详细比较了这些方法在损失类型、贡献和架构差异方面的差异。除了过去几年的进展外,我们进一步讨论了一些现有方法的缺点,并提供了一些试探性的启发式解决方案来解决这些开放性问题。
Feb, 2021
利用迭代方法的变分技术,基于生成模型,研发半监督学习的新算法,解决现代数据分析中处理大规模非标记数据集挑战。深度生成模型与贝叶斯推理结合,灵活、高效、可拓展,为半监督学习提供了有力支持。
Jun, 2014
本篇文章研究了半监督深度学习的最新方法,重点是针对标记和未标记数据集之间分布差异的情况设计的半监督深度学习模型,致力于解决传统深度学习流水线在实际使用环境下对数据的高需求,并希望鼓励社区应对该方面的挑战。
Mar, 2022
通过实现多种常用的 SSL 技术并在一系列实验中进行测试,研究发现简单基线方法的表现通常被低估,而 SSL 方法对标记和未标记数据的敏感性不同,当未标记数据集包含类外示例时性能可能会显著下降,因此我们提供了一个公共代码重现平台以帮助实现 SSL 技术在实际应用中的可行性。
Apr, 2018
本文综述了针对可视化识别问题的先进深度学习算法在半监督学习和无监督学习范式下的研究进展,提出了统一的分类方法,并分析了它们在不同学习场景和计算机视觉任务中的设计原理及应用,最后探讨了 SSL 和 UL 中的新趋势和挑战。
Aug, 2022
本文综述了半监督目标检测的五个方面,包括数据增强、数据标注、损失函数和常见基准数据集等。通过对各种方法的比较和分析,为读者提供了对该领域研究现状和未来发展方向的深入了解。
Jun, 2023
本文回顾了最近在无监督和半监督学习领域取得的进展,分类了一大类模型,并探讨了这些模型与探索新思想的相互作用以及它们在生成模型中的实现。文章还提出了将无监督预训练与有监督微调结合起来的未来方向,并展望了表示学习的未来方向。
Mar, 2019
本文提出了一种基于深度度量嵌入的半监督学习算法,利用少量标注数据和无标注数据的相对距离关系约束,得到在欧氏空间内区分力强的分类器,并可用于基于最近邻分类的应用。
Nov, 2016
本文提出了一个 semi-supervised learning (SSl) 的新方法:Mixture of Expert/Imitator Networks,该模型通过利用大量未标记数据来训练 imitator 网络模拟 expert 网络的标签分布,从而提高 text classification 任务的性能,实验结果表明该方法可适用于多种深度神经网络模型,并且性能随未标记数据的增加而提高。
Oct, 2018
本文基于拓扑数据分析 (Topological Data Analysis,TDA) 技术提出了两种半监督学习方法,一种基于骨架結构和水斗距离,另一种考虑数据的连通性, 并将其应用于三个综合数据集和七个各色各样的结构体和图像数据集,实验结果表明,这些半监督方法能够有效地提高数据分类准确性达到 16%。
May, 2022