本文研究了在线学习算法中带有成对损失函数的泛化性能,并提出了一种数据依赖性较小的界限来衡量在线学习算法的平均风险产生的序列的模型偏差,同时针对常见的机器学习问题,如基于排名和监督度量学习提出了实际应用案例。
Jan, 2013
本文提出一种新的对抗噪声视图具有鲁棒性的对比损失函数,它在图像、视频和图形上的对比学习基准测试中提供了一致的改进,并且是模态无关和与 InfoNCE 损失的一个简单替代方法。
Jan, 2022
该论文从交叉匹配角度分析了相似性学习,提出了一种基于 ROC 优化的点级优化标准,通过一种概率框架对此进行了深入研究,给出了基于 U - 统计的约束优化表达式,推导出相应的普适性学习速率以及在数据分布噪声假设下更快速的学习速率,同时考虑了采样近似近似的效果,同时通过量化实验得到了与理论相称的实验结果。
Jul, 2018
本文提出一种新的损失函数家族 -- 对等损失函数,用于解决监督学习中的噪声标签问题,不需要事先指定噪声率,可以获得与训练数据相同的最优分类器,并进行了大量实验验证,是解决标签可能含有噪声的训练中的一种稳健方法。
Oct, 2019
利用聚类方法寻找类似度高的类别,并基于其特征对分类器设置鲁棒性,以此提升鲁棒性训练的性能,同时在 Fashion-MNIST 和 CIFAR10 中分别提高准确率 9.63% 和 30.89%。
Dec, 2020
本研究提出两种技术来改进基于成对排名的多标签图像分类:(1)我们提出了一种新的损失函数,平滑且容易优化;(2)我们将标签决策模块纳入模型,估算每个视觉概念的最优置信阈值。我们在三个大规模数据集(VOC2007、NUS-WIDE 和 MS-COCO)上展示了我们方法的有效性,并取得了文献中报道的最佳结果。
Apr, 2017
本文研究深度 ReLU 网络下的成对学习,估计其多余泛化误差。通过成对最小二乘损失函数,取得近乎最优的估计上界。
May, 2023
本文提出一种新的二元分类设置,即成对比较分类 (Pcomp) 分类,其中仅有一对未标记数据,我们知道其中一个数据比另一个更可能为正。我们给出了一个生成 Pcomp 数据的过程,推导出了一个带有理论保证的无偏风险估计器 (URE),并使用校正函数进一步改进了 URE。同时,我们将 Pcomp 分类联系到噪声标签学习,发展了一种逐步 URE 并通过施加一致性正则化来改进它。最后,我们通过实验证明了我们的方法的有效性,这表明 Pcomp 除了成对标签之外,还是一种有价值且实用的成对监督类型。
Oct, 2020
本文提出了一种叫做 Class2Simi 的框架,通过将带有噪声类标签的数据点转化为带有噪声相似性标签的数据对,在这个转化过程中理论上有噪声率的降低,从而更容易处理带有噪声相似性标签的情况,并验证其效果。
Jun, 2020
该研究介绍了一种利用特征空间中训练样例的相似性,鼓励每个样例预测与其最近邻居相似的学习方法,用于从带有噪声标签的数据中学习,并且在多个数据集上展现出良好的分类精度。
Feb, 2022