不平衡可视回归的均衡均方误差

CVPRMar, 2022

Balanced MSE for Imbalanced Visual Regression

Jiawei Ren, Mingyuan Zhang, Cunjun Yu, Ziwei Liu

TL;DR本研究在统计学角度重新审视了广泛采用的均方误差（MSE）损失函数，指出它不适用于不平衡回归问题，并提出了一种新的平衡 MSE 损失函数来解决高维度的不平衡回归训练标签分布问题。在多个实际场景中，Balanced MSE 表现卓越，是高维不平衡回归的第一个通用解决方案。

Abstract

data imbalance exists ubiquitously in real-world visual regressions, e.g., age estimation and pose estimation, hurting the model's generalizability and fairness. Thus, imbalanced regression gains increasing resea

data imbalance imbalanced regression mean square error balanced mse high-dimensional

发现论文，激发创造

回归数据集的不平衡问题

通过分析回归问题中样本分布的不平衡导致的模型倾向于忽视不常见数据且过度关注常见目标的问题，我们提出了回归问题中不平衡的首次定义，并展示其为分类中常用的不平衡度量的推广。通过这一工作，我们希望引起人们对回归不平衡问题的关注，并为未来的研究提供共同的基础。

Feb, 2024

影响平衡损失函数：解决不均衡视觉分类问题

我们提出了一种平衡训练方法，通过衍生用于平衡训练阶段的新丢失，有效改善任何类型的不平衡学习方法的性能，从而解决了数据不平衡问题。我们的实验结果表明，所提出的损失优于现有的基于成本的损失方法。此外，我们的损失并不限于特定任务、模型或训练方法，因此可以轻松地与其他最近的重新采样、元学习和基于成本的学习方法结合使用以解决类别不平衡问题。

Oct, 2021

不平衡回归中的模型优化

本论文旨在研究在不平衡的回归任务中使用 SERA 作为一个优化标准的影响。使用 36 个不同领域和规模的数据集，实验结果表明，使用 SERA 作为目标函数的模型在极端值的预测方面比使用标准提升算法生成的模型更好，证实了 SERA 可以嵌入优化的学习算法中。

Jun, 2022

理解分类如何有助于回归的方法

在计算机视觉的深度回归方法中，添加一个分类损失到回归损失中可以得到改进的结果，尤其对于存在不平衡数据的回归任务尤为明显，因此我们建议在不平衡数据的回归任务中添加一个分类损失。

Aug, 2023

一种简洁的对数损失函数用于异常检测模型的稳健训练

提出了一种新的损失函数 LMSE，比现有的 MSE 函数更加稳定，对于异常检测性能和损失函数收敛性更强，在深度学习的领域中具有广泛的应用前景。

Jan, 2022

如何验证机器学习回归任务的平均校准性？

根据最新机器学习不确定性量化文献上的数据集集成，本文展示了标定误差 (CE) 极其敏感于不确定性分布的特点和异常值不确定性的存在，因此不适合用于标定测试，相比之下，ZMS 统计量在这个背景下提供了最可靠的方法，并且探讨了条件标定验证的启示。

Feb, 2024

不平衡深度回归问题的不确定性投票专家混合模型

该研究提出了一种适用于回归问题的新型混合专家方法，利用个体专家的预测不确定性作为融合的依据，实现对不平衡数据的有效学习。实验结果表明，该方法优于现有备选方案，同时产生更好的不确定性估计。

May, 2023

半监督图不平衡回归

本研究提出一种半监督自训练框架以解决图形回归任务中标签值稀疏的问题，并通过伪标签和图例增强等方法来平衡训练数据，从而显著减少预测图形属性的误差。

May, 2023

基于深度神经网络的向量到向量回归问题的平均绝对误差

本文探究均方误差作为深度神经网络回归模型的损失函数的性质，提出了均方误差的新特性使其成为更适合于 DNN 的回归损失函数，并阐述了 MAE 作为拉普拉斯分布错误的模型的优越性以及实现 MAE 比 MSE 更好地拟合深度神经网络回归的性能优势。

Aug, 2020

平衡元 Softmax 用于长尾视觉识别

本文提出了无偏的 Balanced Softmax 方法和 Balanced Meta-Softmax 方法，以解决训练和测试分布不匹配的深度学习分类问题，实验证明其在视觉识别和实例分割任务中胜于现有最佳方法。

Jul, 2020