ICMLMay, 2015

优化不可分解性能度量：两个类别的故事

PDF
TL;DR本文提出一种自适应线性化技术，实现了基于 TPR 和 TNR 的点随机更新，通过提出 SPADE 和 STAMP 方法，可以应对实际中出现的数据标签不平衡及其他特殊要求，并获得了显着的速度优势和精准度，同时确保了收敛性。
label imbalanceperformance measuresstochastic updatesoptimization techniquesconvergence guarantees
发现论文，激发创造
  • 优化拟线性性能度量的理论：以 F - 度量为例

    研究了一些非线性性能度量的理论属性，包括 F - 度量，Jaccard 指数等，将这些性能度量优化问题归约为具有未知成本的成本敏感分类问题，并提出了一种具有可证明保证的算法来获得近似最优分类器以解决 F - 度量优化问题。

    May, 2015

  • 非可分解性能度量上的多类别带噪标签学习

    从含有噪声标签的数据中学习良好分类器一直备受关注，我们的研究旨在设计算法，以应对多类非可分解性能度量的噪声标签，并通过实验证实了算法在处理标签噪声方面的有效性。

    Feb, 2024

  • 优化复杂绩效指标的通用在线算法

    我们介绍和分析了一种通用的在线算法，适用于二元、多类和多标签分类问题中的各种复杂性能指标，该算法的更新和预测规则简单且计算效率高，无需存储任何过去的数据，而且对于凹函数和平滑度函数达到了 O (ln n/n) 的遗憾，并通过实证研究验证了所提算法的效率。

    Jun, 2024

  • 非分解损失函数的在线和随机梯度方法

    本文提出了一种针对非可分离损失函数的在线学习框架，通过引入新型算法设计和分析，该模型具有高效的在线学习算法，具有亚线性遗憾和在线转换界限；进一步开发了可扩展的随机梯度下降求解器，经过实验在真实数据集上证明，该方法比近期提出的切割面算法快得多。

    Oct, 2014

  • 不平衡分类问题的鲁棒性能指标

    在不平衡分类问题中，传统的性能度量标准如 F-score、Jaccard 相似系数或 Matthews 相关系数对于类别不平衡并不稳健，因为当少数类占比接近 0 时，这些度量标准下的贝叶斯分类器的真正阳性率（TPR）也趋近于 0。为了解决这个问题，我们提出了对 F-score 和 MCC 的稳健修正，即使在极度不平衡的情况下，TPR 也得到了保证。我们通过模拟和信用违约数据集的实验来展示各种性能度量标准的行为，并讨论了与 ROC 和精确率 - 召回率曲线的关联性，并提出了如何将它们与性能度量标准结合使用的建议。

    Apr, 2024

  • 优秀的分类度量及其发现方法

    通过定义和分析分类表现的可取特性，研究论证了某些性能度量方法比其他方法更好，并提出了一系列新的度量方法，这些方法在除一种可取特性外均可满足，包括 Matthews 相关系数和对称平衡准确性，为实践人员实现充分的分类结果评估提供了重要工具。

    Jan, 2022

  • 非可分解目标的隐式率受限优化

    本研究考虑一种常见的受约束优化问题，即在固定阈值形式的不可分解评估指标和约束其他感兴趣的指标的情况下，对机器学习问题进行优化。通过隐函数定理，我们提出了一种表达阈值参数为模型参数函数的速率约束优化方法，并展示了如何使用标准梯度方法来解决所得到的优化问题。在基准数据集上的实验证明了我们提出的方法相对于现有的最先进方法在这些问题上的有效性。

    Jul, 2021

  • 多标签 F 度量的凸校准代理

    本文探讨设计针对 F-Measure 的凸罚函数问题，提出了 F-Measure 的凸罚函数方法，将多标签 F-Measure 学习问题分解为 $s^2+1$ 个二进制分类概率估计问题，并提供了差错传递边界的定量证明，与 Dembczynski 等人的算法有关，并进行了实验证实了论文理论结果。

    Sep, 2020

  • 具有 Karmic、阈值拟凸度量的二元分类

    提出了两个关键特性：所谓的 Karmic 属性和阈值准凸性属性，表明 Bayes 最优分类器是正类条件概率的阈值函数，并借此结果通过新颖的阈值估计器提供了一个计算实际的插件分类器，并进一步提供了性能复杂度统计分析。

    Jun, 2018

  • F - 度量最大化算法的贝叶斯最优性探讨

    该研究论文使用决策论和贝叶斯风险分析方法，提出了一种在二值分类、多标签分类和结构化输出预测等问题中，优化 F-measure 评价指标的方法，并提出了一个新的算法，它不仅计算效率高，而且在任何分布下都是贝叶斯最优的。

    Oct, 2013