Aug, 2023

AdaER：一种自适应经验重播方法用于持续终身学习

PDF
TL;DRAdaER 是一种用于解决持续终身学习中的灾难性遗忘挑战的新算法，通过引入 C-CMR 策略和 E-BRS 策略来选择性地重播与当前输入数据最矛盾的记忆，并最大化信息熵以提高记忆缓冲区的性能，进而在实验中表现出优于现有基准方法的持续终身学习效果。
continual lifelong learningcatastrophic forgettingadaptive-experience replaymemory replayentropy-balanced reservoir sampling
发现论文，激发创造
  • ADER：面向基于会话推荐的持续学习的自适应蒸馏典型回放

    提出一种基于例子回放的方法，名为自适应蒸馏例子回放（ADER），用于处理神经模型中的灾难性遗忘问题，以应对连续学习的挑战，实验证明该方法优于其他基线方法，并展示了其成为构建更真实和可扩展的基于会话的推荐器的有希望的解决方案。

    Jul, 2020

  • 强化经验重放的连续学习

    本研究提出了一种基于强化经验回放的连续学习方法，通过使用当前训练数据模仿未来经验，以及蒸馏内存缓冲区的过去经验，来提高模型的预测一致性，从而有效保留已获得的知识。实验结果表明，我们的方法在多个图像分类数据集上优于现有方法。

    May, 2023

  • 重新思考经验回放：持续学习的技巧集

    研究了当神经网络被培训在一个时间上变化的数据流时，其面临的 “灾难性遗忘” 问题。本文提出并实验了一种简单的 rehearsal-based 方法，即 Experience Replay，并证明其相对于现有的基于 rehearsal 的方法有了极大的精度提升。

    Oct, 2020

  • 在线连续学习中减少突变表示变化的新见解

    本研究提出了一种基于经验回放的在线连续学习方法，该方法使用不对称更新规则，使得新类别能够更好地适应先前观察到的类别，并在标准连续学习基准测试中获得显著的性能提升。

    Mar, 2022

  • 在线持续学习中减少突然表征变化的新见解

    研究在线持续学习范式下，使用经验回放（ER）对抗内存与计算约束时，新添加的类别在 ER 下表示的变化，通过实证分析验证减轻高度干扰参数更新的新方法。该方法采用不对称更新规则，有利于在任务边界时避免遗忘。在标准持续学习基准测试中，与强基线方法相比取得了显著提高。

    Apr, 2021

  • 连续学习中的自适应记忆回放

    基于丰富的记忆资源和训练效率的重视，我们引入了一种适应性记忆回放的框架来解决不断学习问题，通过多臂赌博机问题的方法来动态选择训练数据，从而在保持高性能的同时减少了遗忘达 10%。

    Apr, 2024

  • 概念漂移下的增量式经验回放连续学习

    提出了一种新的持续性学习方法来同时处理学习和存储新信息以及适应先前概念的变化，该方法引入了一个记忆库和一个反应子空间缓冲区来解决数据流挖掘和连续学习两个领域的问题。

    Apr, 2021

  • TEAL：经验回放中小缓冲区的新选择策略与增量学习

    在这篇论文中，我们介绍了一种名为 TEAL 的新方法，通过将样本存储于内存中，可以显著增强各种经验重播方法在小内存缓冲区上的性能，从而提高了最先进方法 XDER 以及 ER 和 ER-ACE 在多个图像识别基准上的平均准确性，与最终任务中每个类别 1-3 个样本的小内存缓冲区相关。这证实了当内存有限时，优先考虑最典型的数据是最好的策略。

    Jun, 2024

  • 经验回放用于连续学习

    本文研究了在强化学习中应用经验重放缓解神经网络连续学习中所面临的灾难性遗忘问题，并证明了这种方法可以在 Atari 和 DMLab 领域中很好地解决这个问题。

    Nov, 2018

  • 面向持续终身学习的可扩展回忆

    本文提出一种新的可扩展体系结构和训练算法解决 Deep Learning 在 lifelong learning 场景中面临的挑战，尤其是在训练时间和内存限制下存储经验的问题，并在性能评估中取得了显著提升。

    Nov, 2017