CCSI：连续类别特定印象的无数据类别递增学习

Jun, 2024

CCSI：连续类别特定印象的无数据类别递增学习

CCSI: Continual Class-Specific Impression for Data-free Class Incremental Learning

Sana Ayromlou, Teresa Tsang, Purang Abolmaesumi, Xiaoxiao Li

TL;DR提出了一种新的无数据增量学习框架，通过学习类别的数据综合代替先前类别的数据存储，在引入新类别时更新网络；关键创新包括获取以往无法获取的类别的合成数据（称为 Continual Class-Specific Impression - CCSI）并有效利用这些数据来更新网络，同时采用多个损失函数来推广深度网络。

Abstract

In real-world clinical settings, traditional deep learning-based classification methods struggle with diagnosing newly introduced disease types because they require samples from all disease classes for offline training. class incremental learning offers a promising solution by adapting

class incremental learning catastrophic forgetting data synthesis continual class-specific impression intra-domain contrastive loss

发现论文，激发创造

零数据增量学习的类印象

提出了一种新型的、无需实际数据的分类增量学习框架，采用数据合成的方式生成虚拟数据大大缓解了灾难性遗忘现象，采用余弦归一化交叉熵损失、边际损失和领域对比损失来优化模型的分类性能，将该方法与现有方法进行比较实验，并在诊断心脏超声图像方面取得了很好的效果。

Jun, 2022

利用旧知识持续学习医学图像中的新类别

本文提出了一种两个主要组成部分的框架来避免类别增量持续学习中的灾难性遗忘，包括动态架构和训练过程，结果表明这种解决方案在医疗数据集上能够实现比现有技术水平更好的类别准确性和遗忘能力。

Mar, 2023

跨领域疾病分类的小样本增量学习

本篇研究旨在解决跨领域少样本增量学习问题，提出了一种跨域增强约束和跨域数据增强方法，并在 MedMNIST 数据集上进行实验，发现相较于其他类似方法，该方法的分类性能更好。

Apr, 2023

一种无分类器的可扩展医学图像分割的增量学习框架

通过引入新的分割范式，我们提出了一种基于对比学习的分类器自由网络，能够实现可变数量类别的分割，并结合知识蒸馏的增量学习框架，解决了医学图像分割中类别和领域的增量学习问题。实验证明了该方法在处理不同类别数量和增量学习中的优越性。

May, 2024

自主预训练与原型学习的逐类增量学习

通过分析类增量学习中灾难性遗忘的原因，我们提出了一个两阶段学习框架，其中包括一个固定编码器和一个逐步更新原型分类器。我们的方法不依赖于保留的旧类别样本，是一种非范例基于的 CIL 方法。在公共数据集上的实验证明，我们的方法在保留每类 5 个示例和 10 个阶段递增设置下，比最先进的范例基于方法在 CIFAR-100 上提高了 18.24%，在 ImageNet100 上提高了 9.37%。

Aug, 2023

端到端渐进式学习

一项新的增量学习方法使用少量的示例集合来学习深层神经网络，解决了深度学习中的灾难性忘记问题，在 CIFAR-100 和 ImageNet（ILSVRC 2012）图像分类数据集上取得了最先进的成果。

Jul, 2018

继承与蒸馏，对比进化：探索无样本记忆的类别增量语义分割

本文提出了一种新的方法 Inherit with Distillation and Evolve with Contrast (IDEC)，它通过 Dense Knowledge Distillation on all Aspects (DADA) 和 Asymmetric Region-wise Contrastive Learning (ARCL) 模块解决了类增量语义分割中遇到的灾难性遗忘问题和语义漂移问题，并在多个 CISS 任务中展现出卓越的性能。

Sep, 2023

在线情境下的增量学习

该论文提出了一种增量学习框架，针对在线学习场景下的两个主要障碍，即新类的学习和旧类的新观测值的变化。通过引入修改的交叉蒸馏损失和两步学习技术来解决问题（1），并提供通过更新范例集合减轻问题（2）的简单而有效的方法，并在基于 Food-101 数据集的在线食品图像分类的真实应用中展示了该方法的性能。

Mar, 2020

Always Be Dreaming: 无数据增量学习的新方法

本文介绍了一种新的增量知识蒸馏策略来解决 Data-Free Class-Incremental Learning（DFCIL）的问题，该策略通过修改交叉熵训练和重要性加权特征蒸馏，提高了 DFCIL 的准确率，并在公共课程增量基准测试中表现出优异的性能。

Jun, 2021

使用扩散模型进行蒸馏与回放的类增量学习

本文提出采用预训练稳定扩散模型作为增量学习的额外数据源，并证明其可以进一步提高现有最先进的大规模数据集类增量学习方法的性能。

Jun, 2023