本研究系统地研究了类别不平衡对卷积神经网络分类性能的影响，并比较了几种解决该问题的常用方法。在使用三个基准数据集进行实验的过程中，研究者发现类别不平衡对分类性能有不利影响，而通过过采样的方法可以提高分类性能。同时，该研究还发现阈值补偿在一定场景下也能够提高分类性能。

Oct, 2017

本文提出了一种基于类别不平衡的深度学习模型，使用小样本类别修正和难样本挖掘，通过迭代逐批次学习，最小化数量众多类别的影响。实验结果表明，该模型在处理不平衡数据学习问题上相比现有最先进模型具有性能优势和可扩展性。

Apr, 2018

通过对先前流派中分类分数导致偏差的原因进行系统分析，我们提出了一种称为Separate softmax for incremental learning (SS-IL)的新方法，它由分离的softmax (SS)输出层和面向任务的知识蒸馏 (TKD)组成，以解决诸如数据失衡等问题，从而在多个大规模CIL基准数据集上实现了强大的最新结果。

Mar, 2020

本文提出用Augmented Lagrangian Method来解决在临床应用中，由于类别不平衡所引起的深度神经网络二分类器可持续错分少量样本的问题。作者认为，可以通过将分类问题看做约束优化问题并引入一种新的约束条件，即将假阳性率降至最低，同时保证真阳性率较高，从而提高模型精度。本文在医学影像的二分类和多分类以及其他数据集上进行了实验，证明了该方法能够有效提高模型准确率。

Feb, 2021

提出一种基于MixUp正则化技术的平衡采样机制，称为Balanced-MixUp，可以同时对训练数据进行正常（基于实例）和平衡（基于类）采样，使神经网络可以有效地学习高度不平衡的医学图像分类数据集。实验结果表明，Balanced-MixUp优于其他常规采样方案和针对不平衡数据设计的损失函数。

Sep, 2021

提出了一种新型的、无需实际数据的分类增量学习框架，采用数据合成的方式生成虚拟数据大大缓解了灾难性遗忘现象，采用余弦归一化交叉熵损失、边际损失和领域对比损失来优化模型的分类性能，将该方法与现有方法进行比较实验，并在诊断心脏超声图像方面取得了很好的效果。

Jun, 2022

本文提出了一种两个主要组成部分的框架来避免类别增量持续学习中的灾难性遗忘，包括动态架构和训练过程，结果表明这种解决方案在医疗数据集上能够实现比现有技术水平更好的类别准确性和遗忘能力。

Mar, 2023

Class-Incremental Learning faces a dual imbalance problem, which results in skewed gradient updates, catastrophic forgetting, and imbalanced forgetting, but these issues can be addressed using reweighting techniques and a distribution-aware knowledge distillation loss, leading to consistent improvements in performance.

Feb, 2024

通过引入新的分割范式，我们提出了一种基于对比学习的分类器自由网络，能够实现可变数量类别的分割，并结合知识蒸馏的增量学习框架，解决了医学图像分割中类别和领域的增量学习问题。实验证明了该方法在处理不同类别数量和增量学习中的优越性。

May, 2024

提出了一种新的无数据增量学习框架，通过学习类别的数据综合代替先前类别的数据存储，在引入新类别时更新网络；关键创新包括获取以往无法获取的类别的合成数据（称为Continual Class-Specific Impression - CCSI）并有效利用这些数据来更新网络，同时采用多个损失函数来推广深度网络。

Jun, 2024