类增量学习的类示例压缩技术

CVPRMar, 2023

Class-Incremental Exemplar Compression for Class-Incremental Learning

Zilin Luo, Yaoyao Liu, Bernt Schiele, Qianru Sun

TL;DR本文提出了一种基于压缩样本的识别模型的方法，通过动态压缩样本（通过 class activation maps 生成 0-1 遮罩屏蔽非鉴别性的像素点）并存入内存来实现无需进行手动注释的自适应压缩样本，通过在高分辨率的 CIL benchmarks（包括 Food-101, ImageNet-100, 和 ImageNet-1000）上进行了实验，结果显示，使用 CIM 压缩样本可以实现新的 CIL 精度的全新的最高水平。

Abstract

Exemplar-based class-incremental learning (CIL) finetunes the model with all samples of new classes but few-shot exemplars of old classes in each incremental phase, where the "few-shot" abides by the limited memory budget. In this paper, we break this "few-shot" limit based on a simple

class-incremental learning few-shot learning exemplar-based learning compressing exemplars masking model

发现论文，激发创造

基于提示的示例超压缩和再生技术的类别增量学习

通过引入一种新的示范超压缩和再生方法 ESCORT，将过去的图像压缩为视觉和文本提示，并通过预先训练的扩散模型生成多样化的高分辨率示范，从而显著提高了多个种类增量学习基准上的模型性能。

Nov, 2023

603 样本模型：走向内存高效的类增量学习

本文主要讨论了在有限内存情况下如何处理历史数据和新类别的增加，并提出了一种名为 MEMO 的基于共享泛化表示的基准，在保持代表性示例的同时，具有高效的内存管理和提取多样性特征的能力。

May, 2022

面向非样本半监督类增量学习

创新性地提出了一种非示例的半监督类增量学习框架，通过对比学习和半监督的增量原型分类器，使模型能够逐步从部分标记的新数据中学习，同时保持旧类别的知识。

Mar, 2024

图像分类的内存高效类增量学习

本研究针对类增量学习时可能出现的 “灾难性遗忘” 问题，提出了一种记忆资源高效利用的样本保存方案，并结合一种主副样本协作学习方案，以缓解样本来源、质量不同带来的问题。实验结果表明该方案在类增量学习中具有较好的性能表现。

Aug, 2020

DiffClass: 基于扩散的类增量学习

我们提出了一种新的无样本增量学习方法，通过采用多分布匹配扩散模型来统一训练数据的质量，弥合不同域之间的差距，并通过选择性合成图像增强来扩展训练数据的分布，从而增强模型的可塑性和最终组件的性能，在增量训练期间提升模型的稳定性，实验证明这种方法优于之前的无样本增量学习方法并达到了最先进的性能。

Mar, 2024

特征扩展与增强的压缩对于类别增量学习的应用

我们提出了一种新算法，通过使用我们的 Rehearsal-CutMix 方法在压缩过程中切割和混合之前类别样本的图像补丁与新图像，来增强先前类别知识的压缩。在 CIFAR 和 ImageNet 数据集上进行的大量实验证明，我们的方法在不同的增量学习评估协议下始终优于现有技术。

May, 2024

增量表示的非示例无关类别增量学习

通过使用简单的递增表示 (IR) 框架，使用数据增强覆盖合适的特征空间并使用单一的 L2 空间维护损失来防止模型遗忘，我们提出了一个用于非示例类增量学习 (efCIL) 的方法，实现在合并新类知识的同时保留先前学到的信息，而无需存储任何旧类示例 (样本)。在 CIFAR100、TinyImageNet 和 ImageNetSubset 数据集上广泛实验证明，我们提出的 IR 方法在性能上与其他方法相媲美，同时显著防止模型遗忘。

Mar, 2024

参数高效的增量式学习的互补学习子网络

本文提出了一种新的无需回放的类增量学习方法，该方法通过学习两个互补学习子网络之间的协同作用，包括联合优化可塑性 CNN 特征提取器和解析前馈分类器来实现。该方法在训练期间不需要存储过去的数据，可以掌握新的课程，同时保持对以前学习过的课程的识别和知识保留。

Jun, 2023

探究图像压缩对于类别增量学习的影响

本论文提出了一种新的框架，通过图像压缩来增强连续机器学习中缓冲区的容量，包括预处理数据压缩步骤和高效的压缩率 / 算法选择方法，通过在 CIFAR-100 和 ImageNet 数据集上进行广泛实验，证明了该方法在连续机器学习环境中显著提高了图像分类的准确性。

Mar, 2024

强预训练模型实现类别增量学习

在大规模的 ImageNet 数据集上，我们探索了一种从已经训练好的模型中增量学习的方法，通过二阶段训练方案，融合与增强，我们的方法比现有的方法在准确率上提高了 10%。

Apr, 2022