Nov, 2023

SemiGPC：使用高斯过程进行的分布感知标签细化解决不平衡半监督学习

PDF
TL;DR本文中介绍了 SemiGPC，一种基于高斯过程的分布感知标签细化策略，其中模型的预测源自于标签的后验分布。SemiGPC 通过包含归一化项来解决全局数据分布不平衡同时保持局部敏感度，从而更好地应对确认偏差特别是在类别不平衡条件下。研究结果表明，SemiGPC 在与 FixMatch、ReMixMatch、SimMatch、FreeMatch 等不同的半监督方法和 MSN、Dino 等不同的预训练策略配对时，可以提高性能；在标准的 CIFAR10-LT/CIFAR100-LT 的不同类别不平衡程度下，SemiGPC 取得了最先进的结果，在更具挑战性的基准测试 SemiAves、SemiCUB、SemiFungi 和 Semi-iNat 上，与新的竞争性基线相比，使用 SemiGPC 还能提高约 2% 的平均准确率。
semigpclabel refinementgaussian processessemi-supervised methodsclass imbalance
发现论文，激发创造
  • 基于图高斯过程的贝叶斯半监督学习

    提出了一种基于高斯过程的贝叶斯方法对图中的半监督学习问题进行高效数据处理，与目前最先进的图神经网络相比，该模型表现出极强的竞争力，在标记稀少的主动学习实验中超越了神经网络，并且模型不需要验证数据集来控制过拟合。

    Sep, 2018

  • 学习半监督高斯混合模型以用于泛化类别发现

    该论文提出了一种 EM-like 框架，基于半监督的高斯混合模型，利用渐进式的原型对比学习进行表征学习，并采用聚类分配实例，从而解决不知道类数的广义类别发现问题，并在分类和物体识别上取得最先进的性能。

    May, 2023

  • 噪声标签学习的成对相似度分布聚类

    通过对样本进行简单而有效的选择算法，我们将训练样本划分为一个干净集和一个带噪声集，使用高斯混合模型来建模相似样本对的相似度分布，从而能够更可靠地判断各个样本的标签置信度，并在各种基准数据集上展示了超越现有方法的显著改进。

    Apr, 2024

  • 高斯过程在分类中的对抗性鲁棒性保证

    本文研究了高斯过程分类模型的对抗鲁棒性，提出了一种计算 GPC 在输入空间中最小和最大分类概率的算法，并应用于 2D 合成数据集、SPAM 数据集和 MNIST 数据集的验证，表明我们的方法可用于 GPC 的可解释性分析和提高模型鲁棒性。

    May, 2019

  • 标签匹配半监督目标检测

    本篇论文从分布级别和实例级别两个不同但互补的视角提出了一个简单而有效的 LabelMatch 框架，用于解决自我训练期间存在的标签不匹配问题，并通过 Proposal Self-assignment 机制确定准确的伪标签来促进学生和教师之间的匹配。在 MS-COCO 和 PASCAL-VOC 数据集上的实验结果表明，所提出的框架明显优于其他现有方法。

    Jun, 2022

  • 高斯过程半监督学习和半描述学习

    本文提出了一种利用变分方法处理非线性高斯过程映射中半描述输入的高斯过程框架，完美解决半监督学习和半描述学习问题，并可控制不确定性和补全缺失数据，以及在迭代预测和回归 / 分类中显著提高性能的实验结果。

    Sep, 2015

  • MixMatch: 半监督学习的整体方法

    本研究提出了一种半监督学习算法 MixMatch，采用猜测低熵标签的方法，通过使用 MixUp 混合标记和未标记的数据来处理扩充后的未标注样例。实验结果表明，MixMatch 在许多数据集和标记数据量上都取得了大幅度的优越结果，同时也证明了 MixMatch 如何帮助实现更好的准确性和隐私权的权衡。最终，我们进行了消融研究来分离 MixMatch 的哪些组件对其成功最为重要。

    May, 2019

  • 通过标签梯度对齐的半监督学习

    我们提出了标签梯度对齐算法，它是一种半监督学习算法，用于为未标记的数据进行标记，然后用这些标记进行训练，将梯度模型转换成了一个具有语义意义的距离度量，通过梯度下降求解来对标记进行半监督学习， 在半监督 CIFAR-10 分类中实现了最先进的准确性。

    Feb, 2019

  • 引入多实例学习中的实例标签相关性。应用于组织病理图像癌症检测

    本文通过引入与统计物理的 Ising 模型相关的新偶合项扩展了一种基于高斯过程的最先进弱监督多实例学习方法 (VGPMIL-PR)，提高了在组织病理学图像中检测前列腺癌的效果，并通过可视化和分析提供了洞察力，有望在其他研究领域中应用该模型。

    Oct, 2023

  • 临床自然语言处理中的半监督学习自动数据标注中的分歧建模

    本研究探讨预测模型在医疗健康领域中的应用，特别是自监督模式下标记数据的超拟合问题，发现高斯过程能够以较高的预测准确性评估指标和平均最大预测置信水平，对 3 种不确定性标签进行风险评估并保持强大的预测力。

    May, 2022