无需训练的原型校准的少样本类增量学习

Dec, 2023

无需训练的原型校准的少样本类增量学习

Few-Shot Class-Incremental Learning via Training-Free Prototype Calibration

Qi-Wei Wang, Da-Wei Zhou, Yi-Kai Zhang, De-Chuan Zhan, Han-Jia Ye

TL;DR在 Few-Shot Class-Incremental Learning (FSCIL) 场景中，我们发现现有方法倾向于将新类别的样本错误地分类为基类别，导致新类别的性能表现较差。为了解决这一问题，我们提出了一种简单而有效的训练无关的校准策略（TEEN），通过将新类别的原型与加权基类别的原型相融合，以增强新类别的可区分性。在 FSCIL 标准基准测试中，TEEN 显示出出色的性能并在 few-shot learning 场景中持续改进。

Abstract

Real-world scenarios are usually accompanied by continuously appearing classes with scare labeled samples, which require the machine learning model to incrementally learn new classes and maintain the knowledge of base classes. In this few-shot class-incremental learning (FSCIL) scenari

few-shot class-incremental learning catastrophic forgetting overfitting problems training-free calibration teen strategy

发现论文，激发创造

减少偏差的少样本递增学习

本研究提出了一种用于解决少样本增量学习中模型偏差问题的新方法，通过激发映射能力、分别进行双特征分类和自优化分类器等步骤，显著减轻了模型偏差问题，并在三个广泛使用的少样本增量学习基准数据集上取得了最先进的性能。

Feb, 2024

针对小样本类增量学习的平衡监督对比学习

本文提出了一种简单有效的学习方案，来解决 few-shot class-incremental learning 中平衡新任务的欠拟合和遗忘之前任务的挑战，并在 CUB200、CIFAR100 和 miniImagenet 数据集上展现了领先的性能。

May, 2023

持续进化的分类器用于小样本增量学习

本文提出了一种基于分离学习策略的持续演化分类器（CEC）框架，该框架在每个增量会话中只更新分类器，从而避免了表示的知识遗忘问题，并采用伪增量学习方法优化图参数来构建持续的上下文信息传递网络，以解决少样本类别增量学习（FSCIL）的课程先决问题，实验结果表明该方法在 CIFAR100、miniImageNet 和 Caltech-USCD Birds-200-2011（CUB200）等基准数据集上表现出 remarkable 的优势。

Apr, 2021

基于迁移学习的分类器集成在少样本类增量学习中的应用

提出 TLCE 模型，利用多个预训练模型提高新旧类别的区分度。通过使用史诗式训练将旧类别图像映射到准正交原型以减少新旧类别的干扰，并通过集成多样的预训练模型适应数据不平衡的情况，从而在各种数据集上实验证明我们的转移学习集成方法优于最先进的少样本增量学习方法。

Dec, 2023

使用预训练视觉转换器校准高阶统计量进行少样本类别增量学习

通过使用预训练模型和高阶特征统计，可以改善少样本增量学习中的分类准确度。

Apr, 2024

Few-shot 类增量学习的基本和新颖表现揭秘

本文研究了 few-shot class-incremental learning (FSCIL) 问题，提出了一种基于规范化原型分类器的简单方法，名为 NoNPC，该方法适用于增量式新类别的识别，具有与先进算法相当的性能表现。

Jun, 2022

探索基础小说混淆：针对少样学习的冗余探索

少样本类增量学习 (FSCIL) 的研究旨在从有限的样本中获取关于新类的知识，同时保留关于基类的信息。本文通过定量和定性实验，探究了新类与基类的碰撞现象，发现基类特征和像素空间中的冗余是碰撞的主要原因。基于此分析，为了减轻基类与新类之间的碰撞，我们提出了一种名为冗余解耦与整合 (RDI) 的 FSCIL 方法。该方法通过将基类空间中的冗余解耦，压缩了基类特征空间，为新类创造了缓冲空间，从而有效地缓解了模型对基类与新类之间的混淆。在包括 CIFAR-100、miniImageNet 和 CUB-200-2011 在内的基准数据集上进行的大量实验表明，我们的方法达到了最先进的性能。

May, 2024

增强的少样本逐类增量学习通过集合模型

通过设计新的集成模型框架与数据增强，以解决在少样本类别增量学习中的过拟合问题，并应用多输入多输出的集成结构和空间感知的数据增强策略来改善特征提取器的多样性和减轻过拟合，同时整合自监督学习以进一步提高模型泛化能力，综合实验结果表明该方法在少样本类别增量学习中能够减轻过拟合问题，并且优于现有方法。

Jan, 2024

Few-Shot 类增量学习调查

本文从方法学、性能、应用等多个角度全面分析了最新的 few-shot class-incremental learning（FSCIL）的进展，包括理论研究、性能评估和应用案例，针对当前存在的数据实时性差、忘记之前学习内容、过拟合等问题，提出了一种划分方法，将 FSCIL 分成了传统机器学习方法、元学习方法、特征和特征空间方法、重放方法和动态网络结构方法等五个子领域，并介绍了该领域在计算机视觉、自然语言处理和图像处理等多个方面的应用及未来的研究方向。

Apr, 2023

基于视觉语言模型的少样本类增量学习

我们介绍了一种创新的 FSCIL 框架，利用语言正则化器和子空间正则化器，该框架不仅能够使模型拥抱有限数据的新类别，还能确保对基础类别的性能保持，通过在基础训练阶段利用视觉 - 语言模型提取的语义信息和在增量训练阶段促进模型对图像和文本语义之间微妙连接的学习。

May, 2024