Nov, 2023

通过理论上保证的切比雪夫约束生成无偏伪标签 以统一半监督分类和回归

PDF
TL;DR提出一种基于 Chebyshev 不等式的理论约束的无偏标签生成方法，通过多个预测结果的结合生成高质量的伪标签，用于半监督分类和回归任务。在多个数据集上的表现优于现有方法。
semi-supervised classificationregressionthreshold-to-pseudo label processunbiased labelsunbiased pseudo-labels network
发现论文，激发创造
  • 一种通道集合方法：无偏差和低方差的伪标签对半监督分类至关重要

    我们提出了一种轻量级通道级集成方法，用于将多个次优的伪标签有效地合并为理论上保证的无偏差和低方差的伪标签，该方法可轻松扩展到任何半监督学习框架，并在 CIFAR10/100 上显著优于现有技术，无论是在效果上还是效率上。

    Mar, 2024

  • 深度半监督学习中的伪标记和确认偏差

    提出基于伪标签生成的半监督图像分类方法，利用 mixup 增广和每个 mini-batch 至少有数量的有标注样本的限制解决了伪标签带来的过度拟合问题，并在多个数据集上取得了最新的结果。

    Aug, 2019

  • 从自然不平衡伪标签中进行无偏学习

    本文提出一种基于对抗性反事实推理和自适应边界的偏差学习方法，旨在解决伪标签自然不平衡的分类问题。通过对大量实验数据的验证，实现了对 ImageNet-1K 进行半监督和零样本学习的显着精度提升。

    Jan, 2022

  • 课程标记：重新审视半监督学习中的伪标记

    本文重新审视了伪标记的概念，提出了一种基于半监督学习的方法，通过将伪标记应用于无标签集中的样本，并利用已训练好的模型标记这些样本，然后迭代重复此过程来训练模型。本文通过实验证明，伪标记方法可以取得与现有最先进方法相媲美甚至更好的结果，并且更能抵御未知分布样本。作者指出采用学习课程原理以及在每个自我训练周期前重启模型参数是实现这一点的两个关键因素。在 CIFAR-10 数据集上，本文仅使用了 4,000 个标记样本，达到了 94.91% 的准确率，在 Imagenet-ILSVRC 数据集上，本文仅使用了 10％的标记样本，达到了 68.87％的 top-1 的准确率。

    Jan, 2020

  • 关于伪标签的辩护：一种基于不确定性的半监督学习伪标签选择框架

    本文提出一种基于不确定性的假标签选择框架，通过减少训练过程中的噪音来提高假标签的准确性，并可以生成负假标签用于多标签分类和负学习，相比于最近的半监督学习方法在 CIFAR-10、CIFAR-100、UCF-101 和 Pascal VOC 数据集上获得了很好的性能。

    Jan, 2021

  • 鲁棒半监督分类的投影估计器

    研究使用二次代理损失函数进行分类的半监督学习方法，通过对监督估计在未标记数据施加的一组约束的投影，我们发现我们可以安全地提高用于此二次损失的监督解决方案，这是第一种具有如此强大但保守保证的方法，而不依赖于分类器的原有假设。

    Feb, 2016

  • 基于贝叶斯神经网络的不确定性一致性半监督深度回归和变分模型集成

    本文提出了一种新的半监督回归方法，即不确定性一致变分模型集成（UCVME），通过生成高质量的伪标签和不确定性估计来改善训练，并且引入一种新的变分模型集成方法来减少预测噪声和生成更稳健的伪标签。实验结果表明，我们的方法在不同任务上优于现有的替代方法，并且可以与使用完全标签的监督方法竞争。

    Feb, 2023

  • SimPLE: 特征相似的伪标签利用用于半监督分类

    本文提出了基于 Pair Loss 和 MixMatch 技术的 SimPLE 算法，通过挖掘标记和未标记数据之间的关系，显著提升了 CIFAR-100 和 Mini-ImageNet 上的性能，并在 CIFAR-10 和 SVHN 上达到了最新方法的水平。此外，SimPLE 算法还在迁移学习设置中优于预训练模型。

    Mar, 2021

  • 针对长尾半监督学习的不确定性感知采样

    基于不确定性感知的动态阈值选择 (UDTS) 方法解决了半监督学习中类别不平衡的问题，通过引入模型预测的不确定性来调整伪标签选择阈值，提高了模型在长尾类别上的准确性。

    Jan, 2024

  • 利用不可靠的伪标签进行半监督语义分割

    本研究提出了一种通过利用熵值对可靠像素和不可靠像素进行分类，再进一步将不可靠像素分配为负样本，从而对无标签数据进行半监督语义分割的有效策略

    Mar, 2022