本文重新审视了伪标记的概念，提出了一种基于半监督学习的方法，通过将伪标记应用于无标签集中的样本，并利用已训练好的模型标记这些样本，然后迭代重复此过程来训练模型。本文通过实验证明，伪标记方法可以取得与现有最先进方法相媲美甚至更好的结果，并且更能抵御未知分布样本。作者指出采用学习课程原理以及在每个自我训练周期前重启模型参数是实现这一点的两个关键因素。在 CIFAR-10 数据集上，本文仅使用了 4,000 个标记样本，达到了 94.91% 的准确率，在 Imagenet-ILSVRC 数据集上，本文仅使用了 10％的标记样本，达到了 68.87％的 top-1 的准确率。

Jan, 2020

提出基于伪标签生成的半监督图像分类方法，利用 mixup 增广和每个 mini-batch 至少有数量的有标注样本的限制解决了伪标签带来的过度拟合问题，并在多个数据集上取得了最新的结果。

Aug, 2019

伪标记是一种使用少量标记样本来利用无标记数据的常用半监督学习技术。本研究提出了一种名为 DIPS 的数据特征化和选择框架，通过对学习动态的分析来改善伪标记方法，提高标记数据的质量，并展示了其在各种真实世界的表格和图像数据集上的应用和影响。综上所述，我们强调了在真实环境中数据为中心的伪标记方法的显著优势。

Jun, 2024

伪标记、半监督学习、确认偏差、贝叶斯框架、决策理论

Sep, 2023

该研究提出了一种利用信息论界限和特征对齐技术，将目标数据划分为伪标记子集和无标记子集以实现平衡的无监督域自适应方法，取得了比现有方法更好的性能表现。

Feb, 2022

本文探讨了在表格数据情景下，如何利用自训练和课程伪标记方法来应对半监督和自监督学习中存在的大量标记数据需求与非标记数据的局限性，同时提出了一种基于伪标记生成的置信度得分的新方法，通过该方法可以在高密度区域获得更可靠的伪标签。

Feb, 2023

半监督学习算法可以利用未标记数据，改善有监督学习算法的样本复杂性。然而，现有的理论分析主要关注无监督学习能够使用足够的未标记数据来学习良好的决策边界的情况。我们通过对二元高斯混合模型的严格下界进行推导，在分布的标记和未标记数据集大小以及混合分布的信噪比上明确地依赖。令人惊讶的是，我们的结果表明，对于这些分布，没有任何半监督学习算法可以改进标记的最小最优统计误差率或无监督学习算法的性能。然而，我们在真实世界的数据上通过实验证明了半监督学习算法仍然可以优于无监督学习和有监督学习方法。因此，我们的工作表明，虽然证明半监督学习算法性能的提升是可能的，但需要仔细追踪常数。

Nov, 2023

本文提出一种基于对抗性反事实推理和自适应边界的偏差学习方法，旨在解决伪标签自然不平衡的分类问题。通过对大量实验数据的验证，实现了对 ImageNet-1K 进行半监督和零样本学习的显着精度提升。

Jan, 2022

本文介绍了一种半监督学习的方法， 采用生成模型与监督学习算法，放松了对未标记特征的约束，可提高分类器的可靠性，从而准确量化标签不确定度。

Nov, 2018

利用迭代方法的变分技术，基于生成模型，研发半监督学习的新算法，解决现代数据分析中处理大规模非标记数据集挑战。深度生成模型与贝叶斯推理结合，灵活、高效、可拓展，为半监督学习提供了有力支持。

Jun, 2014