Apr, 2023

eTag: 基于嵌入蒸馏和任务导向生成的类增量学习

PDF
TL;DR本研究提出了一种称为 eTag 的方法，通过嵌入蒸馏和面向任务的生成，无需存储样本或原型即可增量训练神经网络，以解决 Class-Incremental Learning 中的遗忘问题，并在 CIFAR-100 和 ImageNet-sub 数据集上获得了显著优于现有方法的结果。
class-incremental learningneural networksfeature extractorembedding distillationgenerative network
发现论文，激发创造
  • TaE: 面向长尾类增量学习的任务感知可扩展表示

    通过采用动态网络算法和中心点增强方法，提出一种任务感知可扩展的框架（Task-aware Expandable，TaE），用于解决长尾类增量学习问题，并在 CIFAR-100 和 ImageNet100 数据集上进行实验证明其能取得最先进的性能。

    Feb, 2024

  • 基于标签生成的类增量学习

    本文提出了一种新的类增量学习方法（VAG），通过将类增量学习视为一个连续标签生成问题，利用预先训练模型的可推广表达来减少灾难性遗忘，并利用词汇表的稀疏性来聚焦生成，同时通过使用标签语义来创建伪重放样本。实验结果表明，VAG 方法的表现优于基线方法。

    Jun, 2023

  • 增量表示的非示例无关类别增量学习

    通过使用简单的递增表示 (IR) 框架，使用数据增强覆盖合适的特征空间并使用单一的 L2 空间维护损失来防止模型遗忘，我们提出了一个用于非示例类增量学习 (efCIL) 的方法，实现在合并新类知识的同时保留先前学到的信息，而无需存储任何旧类示例 (样本)。在 CIFAR100、TinyImageNet 和 ImageNetSubset 数据集上广泛实验证明，我们提出的 IR 方法在性能上与其他方法相媲美，同时显著防止模型遗忘。

    Mar, 2024

  • 端到端渐进式学习

    一项新的增量学习方法使用少量的示例集合来学习深层神经网络，解决了深度学习中的灾难性忘记问题，在 CIFAR-100 和 ImageNet（ILSVRC 2012）图像分类数据集上取得了最先进的成果。

    Jul, 2018

  • 参数高效的增量式学习的互补学习子网络

    本文提出了一种新的无需回放的类增量学习方法，该方法通过学习两个互补学习子网络之间的协同作用，包括联合优化可塑性 CNN 特征提取器和解析前馈分类器来实现。该方法在训练期间不需要存储过去的数据，可以掌握新的课程，同时保持对以前学习过的课程的识别和知识保留。

    Jun, 2023

  • 适应性特征融合的知识蒸馏分类增量学习

    本论文提出了基于深度神经网络的一种新型增量学习方法，该方法基于知识蒸馏并采用一种规范的方式来有效地维护旧模型的表示，以适应新任务，克服了数据访问受限导致的灾难性遗忘问题，并在标准数据集上实现了显著的准确性改进。

    Apr, 2022

  • 无范例的类渐进学习初始训练策略分析

    类渐进学习是从数据流中构建分类模型的目标。本文通过统计分析框架量化各个因素对增量性能的相对贡献，发现初始训练策略是影响平均增量准确性的主要因素，而 CIL 算法的选择对防止遗忘更为重要。基于此分析，我们提出了选择相应初始训练策略的实际建议，以促进增量学习的实际应用部署。

    Aug, 2023

  • 无数据生成回放的双教师班级增量学习

    本文提出两种用于类增量学习的新型知识传输技术：无数据生成式回放（DF-GR）和双教师信息蒸馏（DT-ID），并在 CIFAR-100 和 ImageNet 数据集上表现出性能提升。

    Jun, 2021

  • 解决动态扩展架构下增量学习任务混淆问题

    通过使用多层知识蒸馏等技术，原有的动态扩展架构被改进，被称作任务相关增量学习（TCIL），以改善现有的一些问题，比如任务冲突和遗忘问题，在 CIFAR100 和 ImageNet100 数据集上，实验证明 TCIL 显著提高了准确性。

    Dec, 2022

  • 团队合作并非总是良好的：一个分类器漂移的实证研究在类别增量化信息提取中

    本文提出个体分类器与冻结特征提取器（ICE）框架及其三个变体，旨在缓解分类器漂移，以无存储旧类别样本的情况下，连续从数据流中学习新类别。在 6 个分类增量信息提取任务上的实验结果表明，与现有最先进方法相比，我们的解决方案（尤其是 ICE-O）始终表现出显著的改进，提供了强有力的基线和未来研究的启示。

    May, 2023