长尾学习的分布鲁棒性损失

ICCVApr, 2021

Distributional Robustness Loss for Long-tail Learning

Dvir Samuel, Gal Chechik

TL;DR本文提出了一种基于鲁棒性理论的新型损失函数，旨在解决深度模型在处理不平衡数据时的分类偏差问题，从而提高对于长尾类别的识别准确性。在多项基准测试中，通过降低特征空间中头类别的表示偏差，该方法相较于已有方法以及 SOTA 方法均得到了更好的效果。

Abstract

Real-world data is often unbalanced and long-tailed, but deep models struggle to recognize rare classes in the presence of frequent classes. To address unbalanced data, most studies try balancing the data, the lo

unbalanced data deep models classification bias robustness loss tail classes

发现论文，激发创造

面向长尾视觉识别的特征平衡损失

本文提出了通过使用平衡的特征损失，通过课程学习来加强长尾类别的激励，强化尾部类别的特征规范，从而提高了长尾问题的性能，并在多个受欢迎的长尾识别基准上实现了优越的性能增益。

May, 2023

长尾识别的表示与分类器解耦

本研究中，我们解耦学习过程，系统地探索不同平衡策略如何影响长尾识别的表示学习和分类器。我们的发现表明，数据不平衡在学习高质量表示方面可能不是问题，在使用最简单的实例平衡抽样进行学习表示的情况下，只需调整分类器就能实现强大的长尾识别能力，甚至可以胜过精心设计的损失、采样策略以及使用记忆组件的复杂模块。

Oct, 2019

长尾分布下的对抗鲁棒性

本文探讨了长尾分布下的对抗鲁棒性问题，并提出了一个名为 RoBal 的有效算法框架，该框架包括两个模块：一个尺度不变分类器和数据再平衡。

Apr, 2021

长尾数据的特征空间增强

本文提出了一种新方法，通过在特征空间中使用来自具有丰富样本的类别所学习的特征来增强特征空间中的欠表示类别，从而解决长尾分布问题。通过使用类别激活映射，将每个类别的特征分解为类别通用和类别特定部分，并将欠表示类别的类别特定特征与混淆类别的类别通用特征融合，实时生成新样本。结果表明，在 iNaturalist、ImageNet-LT、Places-LT 以及 CIFAR 的长尾版本等数据集上，本文所提出的方法展现了最先进的表现水平。

Aug, 2020

基于几何先验引导的长尾分类特征表示学习

利用特征分布的几何信息来引导模型学习尾类的潜在分布，并且通过特征不确定性建模以提高模型在测试领域中的泛化性能。

Jan, 2024

基于长尾分布的深度人脸识别范围损失

本文提出了一种新的损失函数 Range loss，对于类别极不均衡的人脸识别数据，我们将 $k$ 个最大范围内的均值作为最优化目标，其中包括一个批次内最短的跨类距离，通过在 LFW 和 YTF 上的实验，表明了该方法的有效性和泛化能力。

Nov, 2016

从不平衡中构建平衡：长尾图像识别

本文提出了一种新的解决长尾图像识别中头尾偏差问题的方法，通过调整标签空间来平衡数据，从而提高分类性能。实验证明该方法可应用于多种模型，并为长尾特征学习提供了思路。

Aug, 2022

用于稳健的长尾学习的数据流形的正交不确定性表示

在长尾分布的情景中，模型对尾部类别的识别能力受限于尾部样本的少量表示。本文提出了一种基于特征嵌入的正交不确定性表示方法（OUR）和端到端的训练策略，以改善模型的长尾现象。研究结果在长尾数据集上进行的综合评估表明，OUR 方法显著改善了模型的长尾现象，为其他长尾学习方法带来了一致的性能提升。

Oct, 2023

ResLT: 面向长尾识别的残差学习

本研究提出通过保留特定类别低频率的能力，并设计了一种有效的残差融合机制来缓解极不平衡数据分布的深度学习算法应用长尾数据分布时普遍存在的问题，通过在参数空间的角度来解决长尾识别问题，并在多个基准数据集上进行了测试，证明了方法的有效性。

Jan, 2021

面向长尾视觉识别的平衡对比学习

本研究提出一种适用于长尾数据的平衡对比学习方法 (BCL)，通过均衡梯度贡献和多类别出现于每次 mini-batch 的方式，使分类器实现更好的优化，并在多个长尾数据集上超过了现有竞争对手 (ClFAR-10-LT,CIFAR-100-LT, ImageNet-LT, 以及 iNaturalist2018)

Jul, 2022