Apr, 2019

通过经验风险最小化从成对相似性 / 不相似性和无标签数据中进行分类

PDF
TL;DR该论文提出了一种利用成对数据信息进行分类的方法，其中使用了经验风险最小化方法来评估分类风险，可以从成对相似性和未标记数据计算出分类风险的无偏估计器。这种方法不仅可以处理相似性，而且还可以处理不相似性，并且可以估计误差范围。
pairwise similaritiesempirical risk minimizationclassification risksemi-supervised clusteringestimation error bounds
发现论文，激发创造
  • 基于成对相似度和无标签数据的分类

    提出了一种新的弱监督学习设置，称为 SU 分类，只需要相似数据对和未标记数据点，可以从 SU 数据中获得分类风险的无偏估计量，并证明其经验风险最小化器的估计误差达到最优参数收敛速率。通过实验证明了该方法的有效性。

    Feb, 2018

  • 无任何群组信息的群组鲁棒分类

    这项研究提出了一个修订的方法来在完全无偏见的情况下进行训练和验证无偏见模型，通过采用预训练的自监督模型可靠地提取偏见信息，并与我们的验证准则结合使用逻辑调整训练损失函数。我们的实证分析证明了我们的方法克服了所发现的挑战，始终提高了鲁棒准确性，达到与或优于依赖偏见标签进行验证的最先进方法的性能。

    Oct, 2023

  • 从两个未标记数据集进行监督分类中缓解过拟合：一种一致的风险校正方法

    本文介绍一个基于经验风险最小化的无标注二分类方法。该方法有时可能会出现严重的过拟合。因此，我们提出了一种校正函数来限制过拟合，并证明了校正后的风险估计器的一致性和估计误差界限。实验结果显示，我们的方法成功地缓解了 UU 方法的过拟合问题，并显著提高了分类准确性。

    Oct, 2019

  • SimPLE: 特征相似的伪标签利用用于半监督分类

    本文提出了基于 Pair Loss 和 MixMatch 技术的 SimPLE 算法，通过挖掘标记和未标记数据之间的关系，显著提升了 CIFAR-100 和 Mini-ImageNet 上的性能，并在 CIFAR-10 和 SVHN 上达到了最新方法的水平。此外，SimPLE 算法还在迁移学习设置中优于预训练模型。

    Mar, 2021

  • 点对点 ROC 曲线优化的监督相似性学习概率理论

    该论文从交叉匹配角度分析了相似性学习，提出了一种基于 ROC 优化的点级优化标准，通过一种概率框架对此进行了深入研究，给出了基于 U - 统计的约束优化表达式，推导出相应的普适性学习速率以及在数据分布噪声假设下更快速的学习速率，同时考虑了采样近似近似的效果，同时通过量化实验得到了与理论相称的实验结果。

    Jul, 2018

  • 基于实例依赖的正未标记数据的联合经验风险最小化

    基于正样本和未标记数据的学习（PU 学习）是一种积极研究的机器学习任务，目标是基于包含部分标记的正样本和未标记实例的训练数据集训练一个二元分类模型。本研究提出了一个优化算法，通过建立标签机制、估计倾向性分值和进行参数优化，以实现风险一致性和更有效的方法。

    Dec, 2023

  • 点对置信度比较的逐点二分类

    本文提出一种新的二元分类设置，即成对比较分类 (Pcomp) 分类，其中仅有一对未标记数据，我们知道其中一个数据比另一个更可能为正。我们给出了一个生成 Pcomp 数据的过程，推导出了一个带有理论保证的无偏风险估计器 (URE)，并使用校正函数进一步改进了 URE。同时，我们将 Pcomp 分类联系到噪声标签学习，发展了一种逐步 URE 并通过施加一致性正则化来改进它。最后，我们通过实验证明了我们的方法的有效性，这表明 Pcomp 除了成对标签之外，还是一种有价值且实用的成对监督类型。

    Oct, 2020

  • 用于估计面向模型的分布差异的 R - 散度

    通过介绍 R - 散度来评估模型导向的分布差异，我们评估了 R - 散度在各种无监督和有监督任务中的测试能力，并发现其实现了最先进的性能。为了证明 R - 散度的实用性，我们利用 R - 散度在带有噪声标签的样本上训练了鲁棒性神经网络。

    Oct, 2023

  • 从未标注的数据中以最少监督训练任何二元分类器

    该研究通过使用两组未标记的数据和基于经验风险最小化（ERM）的方法，提出了一种可以训练任意（从线性到深度）二分类器的学习方法，并证明了这种方法是一致的；实验证明，该方法可以训练深度模型并优于学习两组未标记数据的现有方法。

    Aug, 2018

  • 重新思考引导信息以利用无标签样本：一个标签编码的视角

    Unlabeled samples are utilized through label encodings to ensure both prediction discriminability and diversity in Empirical Risk Minimization scenarios with insufficient labeled samples.

    Jun, 2024