CVPRApr, 2022

学习想象：使用无标签数据为增量学习多样化记忆

PDF
TL;DR本文提出了一种方法，通过从未标记数据的大量语义无关信息中参考 “样本” 生成各种多样化的对应物，使得 DNN 在学习新任务时能够有效地避免遗忘，特别是本方法在 CIFAR-100 和 ImageNet-Subset 等数据集上表现优于现有技术。
发现论文，激发创造
  • 自主预训练与原型学习的逐类增量学习

    通过分析类增量学习中灾难性遗忘的原因，我们提出了一个两阶段学习框架，其中包括一个固定编码器和一个逐步更新原型分类器。我们的方法不依赖于保留的旧类别样本，是一种非范例基于的 CIL 方法。在公共数据集上的实验证明，我们的方法在保留每类 5 个示例和 10 个阶段递增设置下，比最先进的范例基于方法在 CIFAR-100 上提高了 18.24%，在 ImageNet100 上提高了 9.37%。

    Aug, 2023

  • 从动态不平衡学习的角度重新考虑逐步学习

    通过数据不平衡的角度来分析深度神经网络在连续学习新概念时容易出现灾难性遗忘问题，提出了一种名为 Uniform Prototype Contrastive Learning (UPCL) 的方法，通过学习均匀且紧凑的特征来解决动态不平衡问题，并通过在多个基准数据集上的实验验证了其在性能上的优越性。

    May, 2024

  • 利用野外非标记数据克服灾难性遗忘

    本文介绍了一种通过利用大量外部未标记数据集来缓解深度神经网络遗忘现象的类增量学习方法，该方法在各种数据集上均显示出优越性能，尤其是在存在大规模未标记数据时更为显著

    Mar, 2019

  • 语义深度隐藏用于鲁棒的无法学习的示例

    在确保数据隐私和保护的时代，我们提出了一种深度隐藏方案，适应性地隐藏富含高级特征的语义图像，通过不可见地集成预定义图像并结合欺骗性扰动隐藏它们，以增强数据的不可学习性和阻止未经授权的数据探索。

    Jun, 2024

  • 一个不妥协的渐进式学习者策略

    本文章重新定义了增量学习，提出了一种名为 “幻影抽样” 的技术，通过生成模型和深度神经网络的实现，成功避免了增量学习中的灾难性遗忘，并在各种基准数据集上验证了该技术可以实现严格的增量学习。

    May, 2017

  • 使用生成对抗网络的增量式分类器学习

    通过使用新的损失函数、简单的方法来解决分类失效和利用生成对抗网络来生成历史数据和选择代表性样本，我们解决了增量分类器学习中的灾难性遗忘问题，并在 CIFAR-100、Flower-102 和 MS-Celeb-1M-Base 数据集上进行了验证，证明了我们方法的有效性，并且生成的数据比真实图像具有更少的隐私问题。

    Feb, 2018

  • 用于类增量学习的语义漂移补偿

    该研究针对增量学习设计了一种新方法，使用嵌入网络，以自然方式加入新类别而无需添加新的权重，并且通过估计特征的语义漂移来避免严重遗忘。实验结果表明，该方法表现优异且能显著减少遗忘。

    Apr, 2020

  • 具有示例卷积神经网络的判别式无监督特征学习

    本文介绍了一种使用无标签数据训练卷积网络的方法，该方法可用于通用特征学习，通过应用多种变换来区分一组代理类别，获得了比监督学习更具鲁棒性的特征表示，能在几个流行数据集上取得胜于现有结果的分类效果。

    Jun, 2014

  • 端到端渐进式学习

    一项新的增量学习方法使用少量的示例集合来学习深层神经网络，解决了深度学习中的灾难性忘记问题，在 CIFAR-100 和 ImageNet（ILSVRC 2012）图像分类数据集上取得了最先进的成果。

    Jul, 2018

  • 生成式特征重放用于类增量学习

    对于神经网络中的灾难性遗忘问题和老新类别不均衡问题，本文提出了一种基于生成式特征回放和特征蒸馏的解决方案，可以不使用明显的旧任务样本，在 CIFAR-100 和 ImageNet 等数据集上实现了最先进的结果，存储空间成本低。

    Apr, 2020