长尾分类的类实例平衡学习

Jul, 2023

Class Instance Balanced Learning for Long-Tailed Classification

Marc-Antoine Lavoie, Steven Waslander

TL;DR该研究提出了一种新的类实例平衡损失 (CIBL) 方法，以在训练数据的类频率不平衡时，通过重新平衡交叉熵损失和对比损失的相对贡献来获得更平衡的性能表现，并且通过使用余弦分类器，可以在更少的 epochs 中获得类似的性能表现。

Abstract

The long-tailed image classification task remains important in the development of deep neural networks as it explicitly deals with large imbalances in the class frequencies of the training data. While uncommon in engineered datasets, this imbalance is almost always present in real-worl

long-tailed image classification class instance balanced loss cross-entropy contrastive learning cosine classifier

发现论文，激发创造

长尾识别中的子类平衡对比学习

本文提出了一种新的 “子类平衡对比学习（SBCL）” 方法，通过在表示空间中对头类聚类，以捕捉头类和尾类之间的两层类层次结构，实现了实例和子类平衡，并通过在不同类之间的子类对比学习来学习原始类标签。

Jun, 2023

面向长尾视觉识别的平衡对比学习

本研究提出一种适用于长尾数据的平衡对比学习方法 (BCL)，通过均衡梯度贡献和多类别出现于每次 mini-batch 的方式，使分类器实现更好的优化，并在多个长尾数据集上超过了现有竞争对手 (ClFAR-10-LT,CIFAR-100-LT, ImageNet-LT, 以及 iNaturalist2018)

Jul, 2022

一种用于长尾识别的具有互分支和内分支对比损失的双分支模型

本文介绍了一种名为双分支长尾识别（DB-LTR）的简单而有效的模型，它包括一个不平衡学习分支和一个对比学习分支（CoLB），通过利用常见的不平衡学习方法来解决数据不平衡问题，并通过对比学习分支来改善模型对尾部类别的适应能力，并学习出一个具有很好表现特征空间和有区分度的决策边界。在 CIFAR100-LT、ImageNet-LT 和 Places-LT 三个长尾基准数据集上的大量实验证明，DB-LTR 相比比较方法具有竞争力且卓越。

Sep, 2023

带有重新平衡的对比损失的长尾学习

通过将受监督的对比损失整合到基于交叉熵的通信中，解决了长尾学习问题。具体而言，使用 Rebalanced Contrastive Learning (RCL) 方法来提高长尾分类准确度，通过实现几个关键方面，即特征空间均衡、类内紧凑性和正则化。在 Balanced Contrastive Learning (BCL) Framework 中实施 RCL，实验结果表明 RCL 提供了对 BCL 框架的丰富嵌入以及更高的准确度。同时，RCL 作为一个独立的损失函数，也实现了与最先进方法相当的准确度水平。

Dec, 2023

从不平衡中构建平衡：长尾图像识别

本文提出了一种新的解决长尾图像识别中头尾偏差问题的方法，通过调整标签空间来平衡数据，从而提高分类性能。实验证明该方法可应用于多种模型，并为长尾特征学习提供了思路。

Aug, 2022

长尾类别增量学习

本文提出了两种长尾分布的增量学习场景，研究了在这两个场景下现有方法的表现，并提出了一种包含学习可调权重层的两阶段基线，用于减少由长尾分布引起的偏差，同时提高常规增量学习的性能。在 CIFAR-100 和 ImageNet-Subset 上，该方法表现卓越（最高平均增量精度提高 6.44 个百分点）。

Oct, 2022

长尾识别的表示与分类器解耦

本研究中，我们解耦学习过程，系统地探索不同平衡策略如何影响长尾识别的表示学习和分类器。我们的发现表明，数据不平衡在学习高质量表示方面可能不是问题，在使用最简单的实例平衡抽样进行学习表示的情况下，只需调整分类器就能实现强大的长尾识别能力，甚至可以胜过精心设计的损失、采样策略以及使用记忆组件的复杂模块。

Oct, 2019

平衡分类：长尾物体检测的统一框架

本文介绍了一种名为 BAlanced CLassification（BACL）的统一框架，用于应对长尾数据分类偏差问题，该框架通过自适应校正类别分布中的不平等和动态增强样本多样性来解决这些问题。具体采用了前景分类平衡损失（FCBL）和动态特征幻化模块（FHM），在 LVIS 基准上取得了 5.8％ AP 和 16.1％ AP 的性能提升。

Aug, 2023

面向长尾视觉识别的特征平衡损失

本文提出了通过使用平衡的特征损失，通过课程学习来加强长尾类别的激励，强化尾部类别的特征规范，从而提高了长尾问题的性能，并在多个受欢迎的长尾识别基准上实现了优越的性能增益。

May, 2023

类平衡蒸馏在长尾视觉识别中的应用

提出了一种新的框架 CBD，利用知识蒸馏增强特征表示，通过使用类平衡采样，第二阶段的训练使得特征表示能够在少数类上进化，可以自然的适用多个 Teachers，并在 ImageNet-LT，iNaturalist17 和 iNaturalist18 数据集上取得比现有技术更好的性能。

Apr, 2021