减少偏差的少样本递增学习
本文提出了一种简单有效的学习方案,来解决 few-shot class-incremental learning 中平衡新任务的欠拟合和遗忘之前任务的挑战,并在 CUB200、CIFAR100 和 miniImagenet 数据集上展现了领先的性能。
May, 2023
通过设计新的集成模型框架与数据增强,以解决在少样本类别增量学习中的过拟合问题,并应用多输入多输出的集成结构和空间感知的数据增强策略来改善特征提取器的多样性和减轻过拟合,同时整合自监督学习以进一步提高模型泛化能力,综合实验结果表明该方法在少样本类别增量学习中能够减轻过拟合问题,并且优于现有方法。
Jan, 2024
本文从方法学、性能、应用等多个角度全面分析了最新的 few-shot class-incremental learning(FSCIL)的进展,包括理论研究、性能评估和应用案例,针对当前存在的数据实时性差、忘记之前学习内容、过拟合等问题,提出了一种划分方法,将 FSCIL 分成了传统机器学习方法、元学习方法、特征和特征空间方法、重放方法和动态网络结构方法等五个子领域,并介绍了该领域在计算机视觉、自然语言处理和图像处理等多个方面的应用及未来的研究方向。
Apr, 2023
Few-shot Class-Incremental Learning (FSCIL) is comprehensively reviewed, covering problem definition, challenges, general schemes, benchmark datasets, evaluation metrics, classification methods, object detection methods, and future research directions.
Aug, 2023
本文提出了一种基于分离学习策略的持续演化分类器(CEC)框架,该框架在每个增量会话中只更新分类器,从而避免了表示的知识遗忘问题,并采用伪增量学习方法优化图参数来构建持续的上下文信息传递网络,以解决少样本类别增量学习(FSCIL)的课程先决问题,实验结果表明该方法在 CIFAR100、miniImageNet 和 Caltech-USCD Birds-200-2011(CUB200)等基准数据集上表现出 remarkable 的优势。
Apr, 2021
在 Few-Shot Class-Incremental Learning (FSCIL) 场景中,我们发现现有方法倾向于将新类别的样本错误地分类为基类别,导致新类别的性能表现较差。为了解决这一问题,我们提出了一种简单而有效的训练无关的校准策略(TEEN),通过将新类别的原型与加权基类别的原型相融合,以增强新类别的可区分性。在 FSCIL 标准基准测试中,TEEN 显示出出色的性能并在 few-shot learning 场景中持续改进。
Dec, 2023
本文探究 Few-Shot Class-Incremental Learning(FSCIL)这个重要任务及其数据稀缺性的极端条件,并提出了一种称为 Augmented Angular Loss Incremental Classification(ALICE)的模型来解决该问题。实验证明,相比于现有的 FSCIL 方法,ALICE 具有更好的性能。
Jul, 2022
我们介绍了一种创新的 FSCIL 框架,利用语言正则化器和子空间正则化器,该框架不仅能够使模型拥抱有限数据的新类别,还能确保对基础类别的性能保持,通过在基础训练阶段利用视觉 - 语言模型提取的语义信息和在增量训练阶段促进模型对图像和文本语义之间微妙连接的学习。
May, 2024
本研究介绍了一种在线少样本增量学习(O-FSCIL)方法,该方法通过使用预训练和元学习的特征提取器以及存储类别原型的可扩展显式内存,使机器学习系统能够仅使用少量标记示例来扩展其推理能力,同时不会忘记先前学习的类别。O-FSCIL 在 FSCIL CIFAR100 基准测试中获得了 68.62%的平均准确率,实现了最先进的结果。针对超低功耗平台,我们将 O-FSCIL 实现在 60 mW 的 GAP9 微控制器上,仅使用 12 mJ 的能量来展示在线学习能力。
Mar, 2024
提出一种名为 C-FSCIL 的架构,利用超维嵌入,对每个新的类别进行异构存储策略,解决了记忆约束,并通过一些新的损失函数,进一步提高了类向量表示的质量。在 CIFAR100、miniImageNet 和 Omniglot 数据集上的实验结果表明,C-FSCIL 在几乎不用牺牲精度的情况下实现了很高的压缩比。
Mar, 2022