Dec, 2019

对抗式特征分布对齐在半监督学习中的应用

PDF
TL;DR本文提出一种新的特征分布对齐方法，用于在只有少量标记样本时避免过度拟合，已在 CIFAR10 和 SVHN 数据集上进行了测试，结果表明在 SVHN 数据集上取得了接近完全监督模型的测试错误率，并提供了关于特征分布对齐发生的理论洞察，并证明了我们的方法可以减少它。
deep neural networksoverfittingsemi-supervised learningfeature distribution alignmentsmall amount of labeled samples
发现论文，激发创造
  • 通过增强分布对齐的半监督学习

    本文提出了一种简单而有效的半监督学习方法，称为增强分布对齐，以解决有限标记样本导致的采样偏差问题，并介绍了一些实现策略（比如采用对抗式训练、插值策略等），同时在 SVHN 和 CIFAR10 数据集上进行了验证。

    May, 2019

  • 自监督特征适应的广义半监督学习

    通过提出自监督特征适应（SSFA）方法，解决了传统半监督学习在标记和未标记数据分布不一致时预测错误伪标签的问题，从而提高了半监督学习性能。

    May, 2024

  • 同时对一切进行对齐、蒸馏和增强以进行不平衡半监督学习

    这篇研究提出了一种名为 ADALLO 的三方案框架，可解决长尾半监督学习中的类别不平衡问题，其中包括一个灵活的分布对齐机制、一个软一致性正则化机制和一个扩展未标记集的架构。该框架在不同程度的类别不平衡，不同数量的标记数据和分布不匹配的情况下在几个基准数据集上进行了评估，并展示了在大分布不匹配的情况下提高不平衡半监督学习表现的显著成果。

    Jun, 2023

  • 基于插值的对比学习用于少标签半监督学习

    提出了一种基于插值方法的半监督学习算法来解决使用一些标签的数据集时一致性正则化方法的性能问题，并设计了一种新型对比损失来引导学习网络嵌入样本，实现更好的边界决策能力，通过实验证明，与现有算法相比，该算法可提高分类准确率 5.3% 以上。

    Feb, 2022

  • 基于预训练模型的半监督学习的渐进特征调整

    建议使用伪标签从无标签数据中更新特征提取器，以解决预训练特征表示所带来的偏见，并通过实验证明该方法优于现有解决方案。

    Sep, 2023

  • 基于伪标签的分布对齐制造厂对半监督不平衡学习的改进

    本文提出一种用于解决由不平衡数据分布训练的半监督学习算法的不足的算法，称为分布对齐伪标签提炼（DARP），该算法可以优化伪标签，保证效率和准确性，并且与现有 SSL 算法兼容。

    Jul, 2020

  • DASO: 面向语义的分布感知假标签在非平衡半监督学习中的应用

    本文提出了一种基于 Distribution-Aware Semantics-Oriented (DASO) Pseudo-label 的伪标签框架，该框架能够减少分类器的偏差预测，特别是在类不平衡和分布不匹配时，能够可靠地提高半监督学习算法的表现。

    Jun, 2021

  • 往未见领域通用化的方向发展

    我们提出了一种半监督领域泛化模型，通过利用有限的有标签数据和大量的无标签数据来学习领域通用特征。我们的方法在两种不同的半监督领域泛化设置中，在五个具有挑战性的基准测试中实现了一致且显著的进展。

    Mar, 2024

  • 一种极为简单的半监督不平衡学习基线模型

    SimiS 是一种简单而有效的 SSL 算法，通过用伪标签补充数据以解决类别不平衡问题，在 CIFAR100-LT，FOOD101-LT 和 ImageNet127 数据集上分别相对现有方法提高了 12.8％，13.6％和 16.7％的表现。

    Nov, 2022

  • DP-SSL: 面向用少量标注样本提升鲁棒性的半监督学习

    本文提出了一种新的半监督学习方法 DP-SSL，采用创新的数据编程（DP）方案为无标签数据生成概率标签，通过自动生成标签函数并解决不同标签之间的冲突，成功缓解了有限标签数据的问题，实验证明 DP-SSL 可以为无标签数据提供可靠标签和更好的分类性能。

    Oct, 2021