复合批标准化用于长尾图像分类

MMDec, 2022

Compound Batch Normalization for Long-tailed Image Classification

Lechao Cheng, Chaowei Fang, Dingwen Zhang, Guanbin Li, Gang Huang

TL;DR提出了一种基于高斯混合模型的复合批量归一化方法来解决长尾数据分布下神经网络中特征标准化的问题，并通过使用类感知分裂特征标准化的双路径学习框架来多样化估计高斯分布，以更全面地适应训练样本的处理方式。在多个普遍使用的数据集上的广泛实验表明，该方法在长尾图像分类上优于现有方法。

Abstract

Significant progress has been made in learning image classification neural networks under long-tail data distribution using robust training algorithms such as data re-sampling, re-weighting, and margin adjustment. Those methods, however, ignore the impact of data imbalance on feature n

long-tail data neural networks batch normalization gaussian mixture class-aware split feature normalization

发现论文，激发创造

面向长尾视觉识别的特征平衡损失

本文提出了通过使用平衡的特征损失，通过课程学习来加强长尾类别的激励，强化尾部类别的特征规范，从而提高了长尾问题的性能，并在多个受欢迎的长尾识别基准上实现了优越的性能增益。

May, 2023

全局和局部混合一致性累积学习用于长尾视觉识别

该论文提出了一种名为 GLMC 的训练策略，旨在解决长尾视觉识别中的特征提取器鲁棒性和分类器偏差问题，其中核心思想包括全局和局部混合一致性损失、累积头尾软标签权重损失等，该方法在多个数据集上达到了最新的准确度，并证明了其对提高邻近算法泛化的有效性。

May, 2023

高斯型调整逻辑斯谛回归用于长尾视觉识别

该论文针对长尾数据分类的问题，从特征层面提出了特征增强及对数调整方法，用以平衡嵌入（embedding）分布，消除分类器偏差，实验表明该方法超越了现有的最佳方法。

May, 2023

高斯云逻辑调整的长尾视觉识别

本文提出了一种适用于长尾数据的新的神经网络训练方法，使用高斯混合调整不同分类逻辑回归的差异，实现对样本在嵌入空间的调整，从而解决长尾问题，同时也提出了一种分类器的重新训练策略来减轻歧视，实验表明该方法具有卓越的性能。

May, 2023

改进长尾识别的校准

本文针对训练数据集不均衡和 miscalibration 等问题，设计了两种方法，分别为标签感知平滑和批次偏移规范化，并在多个长尾识别基准数据集上创造了新记录。

Apr, 2021

长尾数据的特征空间增强

本文提出了一种新方法，通过在特征空间中使用来自具有丰富样本的类别所学习的特征来增强特征空间中的欠表示类别，从而解决长尾分布问题。通过使用类别激活映射，将每个类别的特征分解为类别通用和类别特定部分，并将欠表示类别的类别特定特征与混淆类别的类别通用特征融合，实时生成新样本。结果表明，在 iNaturalist、ImageNet-LT、Places-LT 以及 CIFAR 的长尾版本等数据集上，本文所提出的方法展现了最先进的表现水平。

Aug, 2020

模态归一化

本文提出了一种扩展 Batch Normalization 的灵活方法，通过将归一化扩展到不止一个均值和方差，我们能够实时检测数据模式并联合归一化具有共同特征的样本。实验结果表明，我们的方法在单任务和多任务数据集上优于 BN 和其他广泛使用的归一化技术。

Oct, 2018

类平衡蒸馏在长尾视觉识别中的应用

提出了一种新的框架 CBD，利用知识蒸馏增强特征表示，通过使用类平衡采样，第二阶段的训练使得特征表示能够在少数类上进化，可以自然的适用多个 Teachers，并在 ImageNet-LT，iNaturalist17 和 iNaturalist18 数据集上取得比现有技术更好的性能。

Apr, 2021

从不平衡中构建平衡：长尾图像识别

本文提出了一种新的解决长尾图像识别中头尾偏差问题的方法，通过调整标签空间来平衡数据，从而提高分类性能。实验证明该方法可应用于多种模型，并为长尾特征学习提供了思路。

Aug, 2022

基于几何先验引导的长尾分类特征表示学习

利用特征分布的几何信息来引导模型学习尾类的潜在分布，并且通过特征不确定性建模以提高模型在测试领域中的泛化性能。

Jan, 2024