本文研究了挑战性的连续学习（CL）设置下的类增量学习（CIL），证明了 CIL 是可学的，并基于理论提出了一种新的 CIL 算法，并通过实验结果证明了其有效性。

Jun, 2023

通过使用多层知识蒸馏等技术，原有的动态扩展架构被改进，被称作任务相关增量学习（TCIL），以改善现有的一些问题，比如任务冲突和遗忘问题，在 CIFAR100 和 ImageNet100 数据集上，实验证明 TCIL 显著提高了准确性。

Dec, 2022

本论文全面调查了现有的针对图像分类的类增量学习方法，特别是在 13 种类增量方法上进行了广泛的实验评估，包括多个大规模图像分类数据集上的类增量方法比较，小范围和大范围域转移的研究，以及各种网络架构的比较。

Oct, 2020

针对类增量学习问题，我们提出了一种基于测试时间适应的方法（TTACIL），通过在每个测试实例上对预训练模型的层归一化参数进行微调，以学习任务特定特征，并将其重置为基本模型以保持稳定性，从而避免了遗忘，并在干净和损坏的数据下的多个类增量学习基准测试中胜过了其他最先进的方法。

Oct, 2023

在连续学习中，对于每个测试样本预测任务标识符是一个具有挑战性的问题。本文提出了一种新的方法 TPLR（基于似然比的任务标识符预测），该方法利用了连续学习中的额外信息，显著优于强对比模型。

Sep, 2023

研究表明，类增量学习 (CIL) 的问题可以分解为两个子问题：任务内预测 (WP) 和任务 ID 预测 (TP)，其中 TP 与分布外检测 (OOD) 相关联。该研究的关键结论是，无论是否通过 CIL 算法显式或隐式定义 WP 和 TP 或 OOD 检测，优秀的 WP 和 TP 或 OOD 检测都对于良好的 CIL 表现是必要且充分的，其中 TIL 就是 WP。基于理论结果，还设计了新的 CIL 方法，其在 CIL 和 TIL 两个设置中性能均优于强基线。

Nov, 2022

现实环境具有非平稳性，经常引入新的类别。时间序列分类中尤为常见，例如医疗保健中新的疾病分类的出现或人类活动识别中新活动的添加。因此，需要学习系统能够在有效吸收新类别的同时避免对旧类别的灾难性遗忘，从而产生了类别增量学习（CIL）问题。然而，尽管图像和语言领域取得了令人鼓舞的进展，但对于时间序列数据的 CIL 仍然相对较少研究。现有的研究在实验设计上存在不一致，需要在广泛的数据集上进行综合评估和基准测试方法。为此，我们首先概述了时间序列类别增量学习（TSCIL）问题，并强调其独特的挑战和先进的方法。此外，基于标准设置，我们开发了一个统一的实验框架，支持新算法的快速开发，新数据集的轻松集成，以及评估过程的标准化。利用该框架，我们在标准和隐私敏感场景下对各种通用和特定于时间序列的 CIL 方法进行了全面评估。我们广泛的实验不仅为未来的研究提供了标准基线，还揭示了各种设计因素（如归一化层或内存预算阈值）的影响。代码可在此 https URL 上获取。

Feb, 2024

本文提出了两种长尾分布的增量学习场景，研究了在这两个场景下现有方法的表现，并提出了一种包含学习可调权重层的两阶段基线，用于减少由长尾分布引起的偏差，同时提高常规增量学习的性能。在 CIFAR-100 和 ImageNet-Subset 上，该方法表现卓越（最高平均增量精度提高 6.44 个百分点）。

Oct, 2022

在大规模的 ImageNet 数据集上，我们探索了一种从已经训练好的模型中增量学习的方法，通过二阶段训练方案，融合与增强，我们的方法比现有的方法在准确率上提高了 10%。

Apr, 2022

类渐进学习是从数据流中构建分类模型的目标。本文通过统计分析框架量化各个因素对增量性能的相对贡献，发现初始训练策略是影响平均增量准确性的主要因素，而 CIL 算法的选择对防止遗忘更为重要。基于此分析，我们提出了选择相应初始训练策略的实际建议，以促进增量学习的实际应用部署。

Aug, 2023