May, 2019

可变的原型重放进行连续学习

PDF
TL;DR本研究提出一种新的方法 —— 变分原型重放，以实现分类任务中的少样本连续学习，避免了灾难性遗忘。该方法通过学习一组可变原型来表示属于同一类的样本嵌入，并将类代表原型分别分开。此外，该方法还通过从以前的任务中重放一个样本来避免灾难性遗忘。相较于最近的连续学习方法，该方法能够在不需要添加新单元的情况下轻松适应更多类的新任务，并且更具有内存效率。
发现论文，激发创造
  • 增强回放的连续强化学习

    RECALL 是一种重播增强方法，通过自适应规范化和旧任务的策略蒸馏，在新任务上增强普适性和稳定性，从而显著改善持续强化学习中灾难性遗忘的问题。在 Continual World 基准测试中，RECALL 的性能明显优于纯粹的完美记忆重播，与最先进的持续学习方法相比，整体性能相当甚至更好。

    Nov, 2023

  • 核心连续学习

    本文介绍基于 kernel 方法的 kernel continual learning 模型，通过采用 episodic memory 存储子集样本的方式，利用 kernel ridge regression 算法学习任务特定的分类器，避免了内存重放以及分类器中存在任务干扰的问题。进一步，引入 variational random features 方法学习数据驱动的 kernel，而不需要提前选择 kernel 函数。在四个基准测试上的结果表明了 kernel 在 continual learning 任务中的有效性和灵活性。

    Jul, 2021

  • 经验回放用于连续学习

    本文研究了在强化学习中应用经验重放缓解神经网络连续学习中所面临的灾难性遗忘问题，并证明了这种方法可以在 Atari 和 DMLab 领域中很好地解决这个问题。

    Nov, 2018

  • 基于重播的连续学习在语义分割中的应用: RECALL

    研究使用生成对抗网络和网络抓取数据重现不可用的旧类数据，避免遗忘和背景类的数据分布变化，达到在连续学习中存在不同步骤和背景类分布变化的情况下更好的表现。

    Aug, 2021

  • 基于图的持续学习

    本文提出通过增加可学习的随机图来维护和重放以前样本的小型陈情表记忆，来解决非静态分布中可用数据的持续学习问题的方法。在多个基准数据集上的实证结果表明，该模型持续胜过最近提出的基线方法，用于无任务的持续学习。

    Jul, 2020

  • 建模内部类别变化进行持续学习

    本篇研究论文介绍了记忆基础连续学习的特点和不足，并提出加强表示差异化的两种扰动方法，以改进连续学习的性能，最终基于大量实证研究结果成功验证了我们的结论。

    Oct, 2022

  • 持续学习的不变表示学习

    本文提出了一种名为 IRCL 的伪排练式学习方法，其中通过将类不变表示与条件生成模型分离并与类特定表示共同使用，以学习顺序任务。该方法证明了在两个著名的连续学习基准上都比基于正则化和基于伪排练的方法更好，并成功地解决了灾难性遗忘问题。

    Jan, 2021

  • 谨慎行事：规模化持续学习的最佳检索

    通过研究回放方法在连续学习中的应用，本文提出了一种评估选择性检索策略的框架，并评估了多种策略的表现，并提出了防止重放重复的策略，探索是否可以通过学习低损失值的新样本来避免回放。

    Apr, 2024

  • 再次训练的局限性和优点揭示：持续学习中重访样本的限度和优点

    本文探讨了不断学习中，使用 rehearsal 方法的优点和局限，通过三个基准测试提供了实证证据，指出使用该方法的模型在任务完成后仍然处于较低的损失区域，但有过拟合采样数据的风险从而降低模型的泛化能力，这是一项重要的持续学习研究。

    Apr, 2021

  • 通过流形扩展回放进行持续学习

    我们提出了一种新的回放策略，称为 Manifold Expansion Replay (MaER)，通过扩展知识表示的隐含流形，改善模型的鲁棒性和表达能力，以解决在学习新任务过程中由于老知识和新知识之间不平衡导致的灾难性遗忘问题。我们通过对 MNIST、CIFAR10、CIFAR100 和 TinyImageNet 进行广泛实验验证，表明提出的方法在继续学习设置中显著提高了准确性，优于现有技术水平。

    Oct, 2023