ICLRMay, 2022

603 样本模型：走向内存高效的类增量学习

PDF
TL;DR本文主要讨论了在有限内存情况下如何处理历史数据和新类别的增加，并提出了一种名为 MEMO 的基于共享泛化表示的基准，在保持代表性示例的同时，具有高效的内存管理和提取多样性特征的能力。
class-incremental learningmemory-efficient modelexemplar storagemodel historymemory management
发现论文，激发创造
  • 图像分类的内存高效类增量学习

    本研究针对类增量学习时可能出现的 “灾难性遗忘” 问题，提出了一种记忆资源高效利用的样本保存方案，并结合一种主副样本协作学习方案，以缓解样本来源、质量不同带来的问题。实验结果表明该方案在类增量学习中具有较好的性能表现。

    Aug, 2020

  • 助记训练：无遗忘的多类增量学习

    本文提出了一种名为 “mnemonics” 自动化框架，通过维护先前类别的几个代表性示例，通过双层优化方式对其进行训练，探讨了较好的多类增量学习策略。mnemonics 在 CIFAR-100，ImageNet-Subset 和 ImageNet 三个 MCIL 基准上的实验结果表明，mnemonics 示例可大幅领先于现有技术。同时，mnemonics 的实例往往在不同类别之间的边界上，具有极大的研究兴趣。

    Feb, 2020

  • 类增量学习的类示例压缩技术

    本文提出了一种基于压缩样本的识别模型的方法，通过动态压缩样本（通过 class activation maps 生成 0-1 遮罩屏蔽非鉴别性的像素点）并存入内存来实现无需进行手动注释的自适应压缩样本，通过在高分辨率的 CIL benchmarks（包括 Food-101, ImageNet-100, 和 ImageNet-1000）上进行了实验，结果显示，使用 CIM 压缩样本可以实现新的 CIL 精度的全新的最高水平。

    Mar, 2023

  • 参数高效的增量式学习的互补学习子网络

    本文提出了一种新的无需回放的类增量学习方法，该方法通过学习两个互补学习子网络之间的协同作用，包括联合优化可塑性 CNN 特征提取器和解析前馈分类器来实现。该方法在训练期间不需要存储过去的数据，可以掌握新的课程，同时保持对以前学习过的课程的识别和知识保留。

    Jun, 2023

  • 无范例的类渐进学习初始训练策略分析

    类渐进学习是从数据流中构建分类模型的目标。本文通过统计分析框架量化各个因素对增量性能的相对贡献，发现初始训练策略是影响平均增量准确性的主要因素，而 CIL 算法的选择对防止遗忘更为重要。基于此分析，我们提出了选择相应初始训练策略的实际建议，以促进增量学习的实际应用部署。

    Aug, 2023

  • RMM：强化记忆管理用于类增量学习

    本文提出了一种基于强化学习的动态内存管理策略，旨在妥善处理复杂的分类增量学习问题，并在 CIFAR-100、ImageNet-Subset 和 ImageNet-Full 三个基准测试中均实现了较大的性能提升。

    Jan, 2023

  • 面向非样本半监督类增量学习

    创新性地提出了一种非示例的半监督类增量学习框架，通过对比学习和半监督的增量原型分类器，使模型能够逐步从部分标记的新数据中学习，同时保持旧类别的知识。

    Mar, 2024

  • 增量表示的非示例无关类别增量学习

    通过使用简单的递增表示 (IR) 框架，使用数据增强覆盖合适的特征空间并使用单一的 L2 空间维护损失来防止模型遗忘，我们提出了一个用于非示例类增量学习 (efCIL) 的方法，实现在合并新类知识的同时保留先前学到的信息，而无需存储任何旧类示例 (样本)。在 CIFAR100、TinyImageNet 和 ImageNetSubset 数据集上广泛实验证明，我们提出的 IR 方法在性能上与其他方法相媲美，同时显著防止模型遗忘。

    Mar, 2024

  • 强预训练模型实现类别增量学习

    在大规模的 ImageNet 数据集上，我们探索了一种从已经训练好的模型中增量学习的方法，通过二阶段训练方案，融合与增强，我们的方法比现有的方法在准确率上提高了 10%。

    Apr, 2022

  • TaE: 面向长尾类增量学习的任务感知可扩展表示

    通过采用动态网络算法和中心点增强方法，提出一种任务感知可扩展的框架（Task-aware Expandable，TaE），用于解决长尾类增量学习问题，并在 CIFAR-100 和 ImageNet100 数据集上进行实验证明其能取得最先进的性能。

    Feb, 2024