AAAIMar, 2024

自适应发现和合并用于增量式新类别发现

PDF
TL;DR提出了一种自适应发现和合并（ADM）的新范式，用于在增量阶段自适应地发现新类别并将新知识整合到模型中，通过减少对旧类别的干扰来保留先前知识，并在不降低性能和参数增长的情况下将新分支合并到基本模型中，从而显著优于现有的类别增量性新类别发现方法（class-iNCD）并减轻类别增量性学习（class-IL）任务中的灾难性遗忘问题。
发现论文，激发创造
  • 类增量新类别发现

    本文探讨了一种新的任务，即类增量的新类别发现（class-iNCD），提出了一种基于预训练模型的方法，利用基类特征原型和特征级别的知识蒸馏，结合自我训练聚类策略实现发现新类别，且能够识别先前已见基类别，实验结果表明该方法显著优于现有方法。

    Jul, 2022

  • 无遗忘新类别发现

    本文提出了 NCDwF (无遗忘新类别发现) 这一新的实际问题，并使用生成拟变量表示、基于互信息的正则化以及已知类别标识符等方法进行了研究，通过基于 CIFAR-10、CIFAR-100 和 ImageNet-1000 的实验验证了其在已有知识保留和新类别发现之间的平衡效果。

    Jul, 2022

  • 通过特征增强和适应实现不断的新类别发现

    我们提出了一种用于 Continual Novel Class Discovery (CNCD) 的新型特征增强和适应方法，其中包括一个用于指导新型类别发现的框架，一个用来约束不同类别之间样本和中心点的相似性的约束，以及一个用于在增量学习过程中让新型类别特征适应共享特征空间的约束。实验证明了我们方法的优越性。

    May, 2024

  • 通过深度模型巩固实现类增量学习

    本文提出了一个名为 Deep Model Consolidation（DMC）的类增量学习范式，它通过利用公共可用的无标签辅助数据，将训练数据集中的已知类和未知类分别训练成不同的模型，然后通过新型的双重蒸馏训练目标结合两个模型，从而解决了增量学习中的 “灾难性遗忘” 问题，并在单头 IL 设置中，相比于现有技术，显著提升了图像分类和物体检测的性能。

    Mar, 2019

  • MetaGCD：泛化类别发现中的持续学习

    我们提出了一种名为 MetaGCD 的方法，使用元学习框架和基于邻域的对比网络，实现了在已知类别中持续发现新类别的能力，并通过实验结果展示了该方法的优越性。

    Aug, 2023

  • 元发现：在非常有限的数据集下学习发现新类别

    本文通过解密 novel class discovery (NCD) 的假设，找到高级语意特征应该在已知和未知类之间共享。基于此发现，我们可以通过 meta-learning 算法对 NCD 问题进行经验性解决，在实验中表现出了显著的特性。

    Feb, 2021

  • 特征扩展与增强的压缩对于类别增量学习的应用

    我们提出了一种新算法，通过使用我们的 Rehearsal-CutMix 方法在压缩过程中切割和混合之前类别样本的图像补丁与新图像，来增强先前类别知识的压缩。在 CIFAR 和 ImageNet 数据集上进行的大量实验证明，我们的方法在不同的增量学习评估协议下始终优于现有技术。

    May, 2024

  • 自主预训练与原型学习的逐类增量学习

    通过分析类增量学习中灾难性遗忘的原因，我们提出了一个两阶段学习框架，其中包括一个固定编码器和一个逐步更新原型分类器。我们的方法不依赖于保留的旧类别样本，是一种非范例基于的 CIL 方法。在公共数据集上的实验证明，我们的方法在保留每类 5 个示例和 10 个阶段递增设置下，比最先进的范例基于方法在 CIFAR-100 上提高了 18.24%，在 ImageNet100 上提高了 9.37%。

    Aug, 2023

  • DER：动态可扩展表示用于类增量学习

    提出了一种新颖的、两阶段的学习方法，利用动态可扩展表示进行更有效的概念建模，在三个类别的增量学习基准测试中，该方法始终表现出比其他方法更好很大的优势。

    Mar, 2021

  • DiffClass: 基于扩散的类增量学习

    我们提出了一种新的无样本增量学习方法，通过采用多分布匹配扩散模型来统一训练数据的质量，弥合不同域之间的差距，并通过选择性合成图像增强来扩展训练数据的分布，从而增强模型的可塑性和最终组件的性能，在增量训练期间提升模型的稳定性，实验证明这种方法优于之前的无样本增量学习方法并达到了最先进的性能。

    Mar, 2024