ICMLJul, 2022

通过分布稳健的记忆演化来提升无任务连续学习

PDF
TL;DR本研究提出了一种基于分布鲁棒优化和 Wasserstein 梯度流的原则性记忆演化框架，用于动态演化内存数据分布，以提高连续学习系统对非平稳数据流的适应性。同时，实验结果表明该方法能够提供更高的鲁棒性和抗干扰性，是一种有效防止遗忘的连续学习方法。
continual learningmemory replaymemory evolutiondistributionally robust optimizationwasserstein gradient flow
发现论文，激发创造
  • 学习一种进化的混合模型用于任务自由的连续学习

    本文提出了一种解决深度学习模型在没有显式任务信息的非定常数据流上进行持续学习的方法，即基于进化的混合模型，该模型的网络架构动态扩展以适应数据分布的变化，并引入了两个简单的丢弃机制来避免存储的例子过多导致记忆过载问题，实证结果表明，该方法在持续学习任务上取得了优异的性能。

    Jul, 2022

  • 连续学习中的自适应记忆回放

    基于丰富的记忆资源和训练效率的重视，我们引入了一种适应性记忆回放的框架来解决不断学习问题，通过多臂赌博机问题的方法来动态选择训练数据，从而在保持高性能的同时减少了遗忘达 10%。

    Apr, 2024

  • 极限内存约束下的在线连续学习

    本文提出了一个新的问题 ——Memory-Constrained Online Continual Learning (MC-OCL)，我们通过 Batch-level Distillation（BLD）这种基于正则化的 CL 方法来解决这个问题，并在三个公开的基准测试中证明了我们的方法成功地解决了 MC-OCL 问题，同时实现了与需要更高存储开销的先前 distillation 方法相当的准确性。

    Aug, 2020

  • CORE：通过认知重播减轻连续学习中的灾难性遗忘

    本文介绍了一种新颖的观点，以显著减轻连续学习中的灾难性遗忘，强调模型保持现有知识和吸收新信息的能力。我们提出了 COgnitive REplay (CORE) 的方法，包括自适应数量分配和质量导向数据选择这两个关键策略。该方法在 split-CIFAR10 上的平均准确率为 37.95%，超过最佳基准方法 6.52%。此外，它还将最差表现任务的准确率相比顶级基准提高了 6.30%。

    Feb, 2024

  • 在线污染数据流模糊任务边界下的连续学习

    本文提出了一种在在线学习任务中应对标签噪声和模糊数据流的方法，该方法使用标签噪声感知的多样化采样和半监督学习技术来平衡示例中的多样性和纯度，实验证明该方法显著优于现有的方法。

    Mar, 2022

  • 通过在线差异距离学习实现无任务持续学习

    本文提出了一种新的理论分析框架，给出了基于任务自由连续学习中访问样本与整个信息之间差异距离的归纳界限，并提出了使用动态组件扩展机制的新方法 - ODDL，以保证具有最佳性能的紧凑网络结构，同时提出了一种基于差异度量的样本选择方法，通过提高性能证明了该方法的卓越表现。

    Oct, 2022

  • 内存高效的半监督持续学习：世界就是自己的重放缓冲区

    研究了半监督连续学习 (SSCL) 模型，使用伪标记、一致性正则化、知识蒸馏和外域检测策略，能够在 SSCL CIFAR-100 实验中最多提高 54.5% 平均任务准确性并减少存储图像数量。

    Jan, 2021

  • 封闭循环记忆 GAN 用于连续学习

    本文提出了一种基于累计的闭环记忆重放生成对抗网络的方案，并引入了外部正则化进行最大样本多样性的小型内存单元。实验结果表明，在使用动态内存单元的条件下，该方案在处理硬任务学习方面具有很高的性能增长。

    Nov, 2018

  • 经验回放用于连续学习

    本文研究了在强化学习中应用经验重放缓解神经网络连续学习中所面临的灾难性遗忘问题，并证明了这种方法可以在 Atari 和 DMLab 领域中很好地解决这个问题。

    Nov, 2018

  • 变分密度传播持续学习

    深度神经网络在真实世界中经常面临着分布漂移、各种类型的噪声和概念目标的变化。本文提出了一个适应连续学习数据分布漂移的框架，通过贝叶斯推断中的不确定性量化来缓解灾难性遗忘问题。通过优化一个闭式 ELBO 目标，通过传播分布的前两个矩阵（均值和协方差）来近似预测分布，我们将灾难性遗忘问题降至最低。

    Aug, 2023