IJCAIMay, 2018

图像分类的组合软间隔 softmax 损失

PDF
TL;DR提出了一种新的损失函数，EM-Softmax，用于训练 CNN 模型的分类任务，以解决 softmax loss 在特征区分度和分类器弱点方面的局限性，并使用 Hilbert-Schmidt 独立性准则构建弱分类器的集合，通过实验验证其优于当前状态下的 softmax loss 和其他一些算法的性能。
softmax losscnn modelsdiscriminationclassifierensemble
发现论文，激发创造
  • 卷积神经网络大边界 Softmax 损失

    本文提出了 L-Softmax loss 作为一种广义的大边际 softmax（L-Softmax）损失函数，可以显式地鼓励所学特征的类内紧密性和类间可分性，并且能够调整想要的边际并避免过拟合，并在四个基准数据集上进行了广泛实验，结果表明使用 L-Softmax 且深度学习的特征更具有区分度，从而大大提高了各种视觉分类和验证任务的性能。

    Dec, 2016

  • 基于误分类向量引导的人脸识别 Softmax 损失

    本论文提出了一种新的适应性损失函数，该函数强调错分特征向量以指导较有区别的特征学习，从而解决传统损失函数在面部识别中存在的问题，并在多个基准测试上取得了比其他先进替代方案更有效的实验结果。

    Nov, 2019

  • 学习最大边界

    本文提出采用最大化间隔损失的优化目标，定义类间隔与样本间隔，推导出广义的间隔 softmax 损失，并在此基础上设计出新工具，即样本间隔正则化、适用于类均衡情形的最大间隔 softmax 损失和适用于类不平衡情形的零中心正则化。实验结果表明，本文的方法对于视觉分类、样本不平衡分类、人员重新识别和人脸验证等任务具有很好的效果。

    Jun, 2022

  • 支持向量引导的 Softmax 损失用于人脸识别

    提出了一种新颖的损失函数 (SV-Softmax), 该函数从支持向量的角度来指导深度卷积神经网络的学习，使得因难例引起的歧义和其他类别的歧义都得以解决，产生了更具区分性的特征.

    Dec, 2018

  • 演讲者验证的大边际 Softmax 损失

    本文研究了在说话人验证中，利用不同配置的大边际 softmax 损失、环形损失和最小超球能量准则等损失函数进行训练的方法，结果显示我们的最佳系统在 EER 方面优于基线方法 15％，在 minDCF08 和 minDCF10 方面分别优于基线方法 13％和 33％。

    Apr, 2019

  • 关于对抗鲁棒性的重新思考：Softmax 交叉熵损失

    该研究探讨了在保证标准准确率的前提下提高对抗性鲁棒性的方法，介绍了 Max-Mahalanobis 中心损失函数，强制在特征空间中诱导高密度区域，以使学习到的特征点更加紧凑和有序，从而提高对抗性防御水平。

    May, 2019

  • 分类的大边缘判别损失

    这篇论文介绍了一种在深度学习背景下具有较大边界的新型判别性损失函数，通过提高神经网络的判别能力，即类内紧凑性和类间可分性，来优化特征空间，同时通过数学分析关系、设计策略和研究泛化误差，提高模型的测试准确性。

    May, 2024

  • 深度神经网络的对比中心损失

    本文提出了一种新的辅助监督信号 —— 对比中心损失，它能够进一步增强特征的区分能力，通过惩罚训练样本到它们对应类别中心距离的对比值和样本到非对应类别中心距离之和的对比值同时考虑了类内紧凑性和类间可分性。在不同的数据集上的实验证明了对比中心损失的有效性。

    Jul, 2017

  • 图像分类中重新思考特征分布的损失函数

    本研究提出了一种基于大边界高斯混合（L-GM）损失函数的深度神经网络分类方法，相较于常规的 softmax cross-entropy 损失函数，通过加入分类边界和似然正则化，提高了分类准确性以及对于训练特征分布的建模精度，可以用于区分异常输入如对抗性样本等。经过 MNIST、CIFAR、ImageNet 和 LFW 等基准测试和对抗性样本测试，证明了本方法的有效性。

    Mar, 2018

  • 用正多面体网络实现最紧凑和分离的特征

    在这项工作中，我们通过将分类器的参数设置为不可训练（即固定），展示出如何从使用 Softmax loss 训练的 CNN 中提取最大类间可分性和最大类内紧凑性的特征。我们的方法统一和泛化了两个不同类别的方法，即由 Center Loss 引领的判别特征和由 Hoffer 等人在 2018 年首次评估的固定分类器。

    Jan, 2023