AAAIDec, 2023

非典型类别增量学习中的细粒度知识选择和恢复

PDF
TL;DR非示例类增量学习是学习新旧任务而不访问过去任何训练数据的目标，本文提出了细粒度知识选择和恢复的新框架，通过自适应平衡可塑性和稳定性，使用任务不可知的机制生成更真实的旧任务原型，减少分类器偏差，实验证明了我们方法的有效性。
non-exemplar class incremental learningcatastrophic forgettingfine-grained knowledge selectiontask-agnostic mechanismprototypes
发现论文，激发创造
  • 关于细粒度图像检索的增量学习探究

    本研究针对细粒度图像检索在增量学习场景中的问题，提出一种基于增量学习和最大均值差异的方法，以减轻遗忘问题导致的检索性能降级。通过将原网络的分类器提供的软 “标签” 传输到训练自适应网络的过程中，达到保留原分类能力的目的，并通过模型正则化来最小化原网络与自适应网络之间的新类特征的偏差。实验结果表明，该方法在保持原类分类性能的同时，对新类有较高的性能表现。

    Oct, 2020

  • SRIL: 用于类增量学习的选择性正则化

    本文提出了一种选择性正则化方法，使用偏心特征蒸馏方法来判断是否执行模式完成或模式分离，并调节如何转移到前一模型的权重以保持先前知识，该方法在 CIFAR-100，ImageNet-Subset 和 ImageNet-Full 数据集上超越了现有方法的性能。

    May, 2023

  • 适应性特征融合的知识蒸馏分类增量学习

    本论文提出了基于深度神经网络的一种新型增量学习方法，该方法基于知识蒸馏并采用一种规范的方式来有效地维护旧模型的表示，以适应新任务，克服了数据访问受限导致的灾难性遗忘问题，并在标准数据集上实现了显著的准确性改进。

    Apr, 2022

  • 自我维持表示扩展非样本类增量学习

    提出了一种新颖的自我维持表示扩展方案，包括结构重组策略和原型选择机制等，以实现知识转移和分类增强，从而达到优异的渐进性能表现。

    Mar, 2022

  • 端到端渐进式学习

    一项新的增量学习方法使用少量的示例集合来学习深层神经网络，解决了深度学习中的灾难性忘记问题，在 CIFAR-100 和 ImageNet（ILSVRC 2012）图像分类数据集上取得了最先进的成果。

    Jul, 2018

  • 生成式特征重放用于类增量学习

    对于神经网络中的灾难性遗忘问题和老新类别不均衡问题，本文提出了一种基于生成式特征回放和特征蒸馏的解决方案，可以不使用明显的旧任务样本，在 CIFAR-100 和 ImageNet 等数据集上实现了最先进的结果，存储空间成本低。

    Apr, 2020

  • 使用生成对抗网络的增量式分类器学习

    通过使用新的损失函数、简单的方法来解决分类失效和利用生成对抗网络来生成历史数据和选择代表性样本，我们解决了增量分类器学习中的灾难性遗忘问题，并在 CIFAR-100、Flower-102 和 MS-Celeb-1M-Base 数据集上进行了验证，证明了我们方法的有效性，并且生成的数据比真实图像具有更少的隐私问题。

    Feb, 2018

  • 自主预训练与原型学习的逐类增量学习

    通过分析类增量学习中灾难性遗忘的原因，我们提出了一个两阶段学习框架，其中包括一个固定编码器和一个逐步更新原型分类器。我们的方法不依赖于保留的旧类别样本，是一种非范例基于的 CIL 方法。在公共数据集上的实验证明，我们的方法在保留每类 5 个示例和 10 个阶段递增设置下，比最先进的范例基于方法在 CIFAR-100 上提高了 18.24%，在 ImageNet100 上提高了 9.37%。

    Aug, 2023

  • 大规模增量学习

    本文提出并验证了一种纠正新旧类别数据不平衡问题的方法，利用一个线性模型矫正了全连接层的弱分类偏见，在两个大型数据集 ImageNet 和 MS-Celeb-1M 上比现有算法表现更好。

    May, 2019

  • 面向非样本半监督类增量学习

    创新性地提出了一种非示例的半监督类增量学习框架，通过对比学习和半监督的增量原型分类器，使模型能够逐步从部分标记的新数据中学习，同时保持旧类别的知识。

    Mar, 2024