Feb, 2024

多标签学习的连续勒贝格测度

PDF
TL;DR我们提出了一种基于一致勒贝格测度的多标签学习器（CLML），证明了在贝叶斯风险框架下，CLML 可以实现理论上的一致性。实证证据支持了我们的理论，证明了：（1）CLML 可以始终获得最先进的结果；（2）勒贝格测度的设计是主要的性能因素，因为 CLML 优化了一个简单的前馈模型，而没有额外的标签图、扰动条件或语义嵌入；（3）结果的分析不仅可以区分 CLML 的有效性，还可以凸显代理损失函数和期望损失函数之间的不一致性。
发现论文，激发创造
  • 多标签 F 度量的凸校准代理

    本文探讨设计针对 F-Measure 的凸罚函数问题，提出了 F-Measure 的凸罚函数方法，将多标签 F-Measure 学习问题分解为 $s^2+1$ 个二进制分类概率估计问题，并提供了差错传递边界的定量证明，与 Dembczynski 等人的算法有关，并进行了实验证实了论文理论结果。

    Sep, 2020

  • 多标记学习缺失标记的简洁且健壮的损失设计

    该论文提出两种简单且有效的基于强大损失设计的方法，通过减少假负例的影响及使用基于缺失标签的最大似然标准来改进多标签学习的性能，从而在大量多标签图像分类数据集上实现了新的最先进的损失函数。

    Dec, 2021

  • 任意损失和模型的多补充、无标签学习

    本文提出了一种名为补充标签学习的弱监督学习框架，能从任意数量的补充标签和无标签样本中进行无偏估计的分类风险，并能使用任意损失函数和模型进行训练，同时通过实验验证了该方法的有效性。

    Jan, 2020

  • 多标签性能度量的统一视角

    本文提出了一个统一的边界视角来重新审视多标记分类中的十一种性能度量。通过最大化标签和实例间的边界，不同对应的性能度量将被优化，从而设计一种称为 LIMO 的最大边缘方法。

    Sep, 2016

  • 任意损失和模型的互补标签学习

    本文提出了一种基于互补标签学习的框架，通过无偏估计分类风险来进行模型选择，且适用于线性 / 非线性模型或凸 / 非凸损失函数，实验表明该方法优于现有方法。

    Oct, 2018

  • 非可分解性能度量上的多类别带噪标签学习

    从含有噪声标签的数据中学习良好分类器一直备受关注，我们的研究旨在设计算法，以应对多类非可分解性能度量的噪声标签，并通过实验证实了算法在处理标签噪声方面的有效性。

    Feb, 2024

  • 学习代理损失

    本文提出了一种针对非可微和非可分解损失函数的优化方法，使用代理神经网络逐渐逼近真实损失函数，并通过联合双层优化学习预测模型和代理损失函数，实现了高效学习代理损失函数的效果。

    May, 2019

  • 柯西损失函数：高斯噪声和柯西噪声下的强鲁棒性

    本文比较了传统均方误差（MSE）和柯西损失函数（CLF）的表现，结果显示在带有异常值数据的情况下，CLF 相对更具鲁棒性和适用性，提高了人工神经网络的性能。

    Feb, 2023

  • 多类损失矩阵的凸校准维度

    研究多分类学习问题的替代损失函数的一致性属性，提出了分类校准和凸校准维度的概念和理论，并应用于分析各种损失矩阵和证明在子集排名下某些类型的凸校准替代损失不存在。

    Aug, 2014

  • 考虑校准的边际损失：推动深度度量学习准确性和校准性平衡前沿

    使用相同的距离阈值将不同的测试类别 / 分布应用于商业图像检索系统的能力是非常可取的；然而，最先进的深度度量学习损失常常导致高度变化的类内和类间嵌入结构，使得阈值校准在实践中成为一个非常复杂的过程。本文提出了一种名为操作点不一致性分数（OPIS）的新度量，用于衡量目标校准范围内不同类别之间操作特性的方差，并且证明度量学习嵌入模型的高准确性不能保证对已见和未见类别的校准一致性。我们发现，在高准确性区域存在一条帕累托前沿，在提高准确性的同时牺牲校准一致性。为了解决这个问题，我们开发了一种名为校准感知边界（CAM）损失的新型正则化方法，以在训练过程中鼓励类别间表示结构的一致性。大量实验证明了 CAM 在提升校准一致性的同时保持甚至提高准确性方面的有效性，并且优于最先进的深度度量学习方法。

    Jul, 2023