基于多类 Fisher 一致性损失的新型多类别提升算法
本文提出了一种新的混合损失函数,结合了条件随机场的对数损失和支持向量机的多类间隔损失,从而解决多类别和结构化预测问题。我们提供了一个足够的条件,标签之间的优势度量,指出混合损失函数在分类问题中是 Fisher 一致的。我们还通过实验表明,该混合损失函数通常在各种任务中的表现都不差或更好,同时也提供了概率和边缘方法在多类别和结构化预测中的实证比较。
Feb, 2014
本文旨在解决半监督二分类集合聚合问题,以最小化在未标记数据上产生的预测损失,并找到了一类最小 - 最大最优预测。结果是一组半监督集合聚合算法,能像线性学习一样高效,但无需放松任何限制。它们的决策规则采用决策理论中熟悉的形式,将 Sigmoid 函数应用于集合边缘的概念,而不需要通常在基于边缘的学习中做出的假设。
Oct, 2015
本文研究了一种通用的凸损失函数构造方式:Fenchel-Young losses,分析了它们的特性,并表明这种构造方式统一了许多著名的损失函数,并能轻松创建有用的新函数;Fenchel-Young losses 来源于广义熵的特性,包括 Shannon 和 Tsallis 熵,能产生预测概率分布;我们提出了广义熵产生具有分离间隔和稀疏支持概率分布的损失的条件,并得出了有效的算法,使 Fenchel-Young losses 在理论和实践中都具有吸引力。
May, 2018
本文研究了二元分类和类概率估计中的损失,将对它们的理解从边缘损失扩展到了一般的组合损失,文中表征了何时边缘损失可以成为适当的组合损失,明确地展示了如何从部分损失的一半中完整地确定对称损失,并介绍了组合二元损失的内在参数化的概念,并给出了适当损失和 “分类校准” 损失之间关系的完整的特征。本文还探讨了 “最佳” 替代二元损失的问题,并介绍了精确的 “最佳” 的概念,以及存在两种凸代理损失不可比较的情况。最后,文中在附录中提供了一些新的算法无关的关于二元损失适当性、凸性和对于误分类噪声的鲁棒性之间关系的结果,并且证明了所有凸适当损失都对误分类噪声不鲁棒。
Dec, 2009
本研究针对使用量化器降维的二元分类问题,从损失函数的角度提出了实现贝叶斯一致性的条件,扩展了 Ali-Silvey 函数和 surrogate loss 函数之间的对应关系。这一结果为选择在联合估计判别函数和量化器时实现贝叶斯一致性的 surrogate loss 函数提供了可能。
Oct, 2005
使用混合整数优化技术得出一种新的损失函数,使之比现有方案更好地逼近 0-1 损失函数,同时保持学习问题的凸性,具有与标准支持向量机相竞争的性能,且在存在异常值时表现更好。
Feb, 2024
研究了 embedding geometry 对 softmax losses 在分类和图像检索任务中的影响,并提出了一个基于 von Mises-Fisher 分布的概率分类器,在产生改进的 out-of-the-box 校准的同时,与现有技术方法相比具有竞争力。
Mar, 2021