本文介绍了一种新的增量知识蒸馏策略来解决 Data-Free Class-Incremental Learning（DFCIL）的问题，该策略通过修改交叉熵训练和重要性加权特征蒸馏，提高了 DFCIL 的准确率，并在公共课程增量基准测试中表现出优异的性能。

Jun, 2021

本文提出两种用于类增量学习的新型知识传输技术：无数据生成式回放（DF-GR）和双教师信息蒸馏（DT-ID），并在 CIFAR-100 和 ImageNet 数据集上表现出性能提升。

Jun, 2021

提出了一种表示增强的分析学习方法，通过双流基础预训练和表示增强蒸馏过程来改善无示例约束下的渐进学习过程，解决现有基于分析学习的渐进学习中骨干网络冻结导致的表征不足问题。在不同数据集上的实验结果表明，该方法在无示例约束的渐进学习中优于现有方法，并且与基于回放的方法相比具有可比甚至更优越的性能。

Mar, 2024

本文提出一种新颖的无数据的联邦类增量学习框架，使用扩散模型生成稳定、高质量的图像，通过设计新的平衡采样器、信息论的基于熵的采样过滤技术以及与基于特征的正则化项整合的知识蒸馏，来减轻灾难性遗忘和改善基于联邦学习的智能模型的准确性。

May, 2024

通过使用简单的递增表示 (IR) 框架，使用数据增强覆盖合适的特征空间并使用单一的 L2 空间维护损失来防止模型遗忘，我们提出了一个用于非示例类增量学习 (efCIL) 的方法，实现在合并新类知识的同时保留先前学到的信息，而无需存储任何旧类示例 (样本)。在 CIFAR100、TinyImageNet 和 ImageNetSubset 数据集上广泛实验证明，我们提出的 IR 方法在性能上与其他方法相媲美，同时显著防止模型遗忘。

Mar, 2024

研究了深度学习模型在使用新类别样本进行微调时面临的灾难性遗忘问题，特别关注训练和测试数据之间的领域转变。设计了一种能够记忆旧类别、适应新类别并能够可靠地对来自未见领域的对象进行分类的 DGCIL 方法，通过使用知识蒸馏和估计旧类别原型的漂移，结合多变量正态分布，不断适应模型特征的变化以更好地表示旧类别。经过多个基准测试实验证实了我们的说法。

Sep, 2023

提出了一种基于特征丰富性的有效秩增强方法（RFR），旨在提高前向兼容性，该方法通过在基础会话期间增加表示的有效秩，从而便于将更多信息丰富的特征纳入未见过的新任务中，并验证方法的有效性和性能改进。

Mar, 2024

在这篇论文中，我们从三个角度提出了动态特征学习和匹配（DFLM）模型，分别是引入类别权重信息和非平稳函数来调整训练过程中对内存的关注，利用 von Mises-Fisher（vMF）分类器有效建模动态特征分布并隐式学习其判别性质，以及通过最小化分布距离来促进学习到的动态特征与分类器之间的对齐。对 CIL 基准数据集的广泛实验验证了我们提出的模型相比现有方法的显著性能提升。

May, 2024

提出了一种基于知识传递的关系补充网络（KT-RCNet）方法，使用多样的伪增量任务作为代理来实现知识传递，并通过对模型的塑性进行充分的优化来满足 Few-shot class-incremental learning 的学习目标，实现了对三种常见的 Few-shot class-incremental learning 数据集的良好实验效果。

Jun, 2023

我们引入了一种无需复习的联邦域增量学习框架 RefFiL，基于全局提示共享范式，以缓解联邦域增量学习中的灾难性遗忘挑战，不需要额外的内存空间，适用于隐私敏感和资源受限设备。

May, 2024