使用排名损失预测准确概率

ICMLJun, 2012

Predicting accurate probabilities with a ranking loss

Aditya Menon, Xiaoqian Jiang, Shankar Vembu, Charles Elkan, Lucila Ohno-Machado

TL;DR本文提出了一种使用排名损失函数和等变回归来优化概率预测的技术，具有良好的排名和回归性能，并且在概率分布上比逻辑回归等统计学习方法表现更好，证明了该技术在实际应用中的有效性。

Abstract

In many real-world applications of machine learning classifiers, it is essential to predict the probability of an example belonging to a particular class. This paper proposes a simple technique for predicting pro

machine learning classifiers probability prediction isotonic regression ranking loss

发现论文，激发创造

提高多标签图像分类的成对排名

本研究提出两种技术来改进基于成对排名的多标签图像分类：（1）我们提出了一种新的损失函数，平滑且容易优化；（2）我们将标签决策模块纳入模型，估算每个视觉概念的最优置信阈值。我们在三个大规模数据集（VOC2007、NUS-WIDE 和 MS-COCO）上展示了我们方法的有效性，并取得了文献中报道的最佳结果。

Apr, 2017

点击率预测的置信度排名

本文提出了一种名为 “置信度排名” 的新型框架，使用两个不同的模型以排名函数的形式设计优化目标，允许针对不同凸代理函数的评估指标进行直接优化，例如 AUC 和 Accuracy。实验结果表明，引入置信度排名损失后，可以在公共和工业数据集的 CTR 预测任务上胜过所有基线，该框架已在 JD.com 的广告系统中部署以提高精细排名阶段的主要流量表现。

Jun, 2023

使用受 ROCR 平正则化的保序回归进行分类器校准

机器学习分类器的校准是为了获得可靠且可解释的预测结果，本论文提出了一种新的广义各向同性回归方法，通过构建一个多维适应性分箱方案在概率空间中实现多类别的校准误差为零，并在实验证明了该方法能够在降低交叉熵损失和避免过拟合校准集之间取得平衡。

Nov, 2023

考分重要时的排序学习

本文通过研究采用分级标签的学习排序问题，提出了一种多目标结构，能够在优化排序性能和等级预测性能方面取得比其他方法更好的结果，证明了利用序数级别信息的好处。

Jun, 2023

在线保序回归

本文研究了在线同位型回归问题中的最优在线学习算法，提出了使用指数权重算法结合同位型覆盖网的方法，并对其进行了理论分析和计算可行性的研究；同时还扩展了该算法在绝对损失函数的应用。

Mar, 2016

深度神经网络的置信度感知学习

本文提出了一种基于 Correctness Ranking Loss 的深度神经网络训练方法，可以对类别概率进行显式的正序排名，提高置信度预测。该方法易于实现，不需要额外的计算代价，适用于现有体系结构，并且在分类基准数据集上表现良好。同时，还对置信度估计相关的任务，如超出分布检测和主动学习，具有相同的可靠性。

Jul, 2020

神经网络的等级一致序列回归及其在年龄估计中的应用

利用深度学习中基于序列回归的神经网络模型进行年龄预测的研究中，提出了一种新的一致性排序逻辑（CORAL）框架，用于提高预测准确率。

Jan, 2019

基于配对比较的近似排名

研究在机器学习中，基于两两比较对一组 n 个项目进行排名的问题，提出了一种基于置信区间的活跃排名算法，通过近似排序来减少比较次数。

Jan, 2018

基于结构预测的标签排序方法

本文提出了一种基于最小二乘代理损失的方法来解决标签排名问题，并针对本方法采用了具体的特征映射 / 嵌入来转换排名 / 排列为向量表示，旨在提高结构化预测的效率和准确性，在部分排名情况下有着良好的表现。

Jul, 2018

过参数化情况下的分类与回归：损失函数是否重要？

这篇研究论文探讨了使用高斯特征的超参数化线性模型在分类和回归任务中的表现，发现当过度参数化时，所有训练点都成为支持向量，从而演化出一个法向量的模型，比起普通的最小二乘法和解决分类问题的 SVM，更适用于两者的情况，并讨论了在不同 loss function 下，训练（优化）和测试（归纳）階段使用的方法的不同作用和特性。

May, 2020