Oct, 2020

重新思考经验回放：持续学习的技巧集

PDF
TL;DR研究了当神经网络被培训在一个时间上变化的数据流时，其面临的 “灾难性遗忘” 问题。本文提出并实验了一种简单的 rehearsal-based 方法，即 Experience Replay，并证明其相对于现有的基于 rehearsal 的方法有了极大的精度提升。
continual learningneural networkcatastrophic forgettingexperience replayaccuracy
发现论文，激发创造
  • 经验回放用于连续学习

    本文研究了在强化学习中应用经验重放缓解神经网络连续学习中所面临的灾难性遗忘问题，并证明了这种方法可以在 Atari 和 DMLab 领域中很好地解决这个问题。

    Nov, 2018

  • 流式学习的高效记忆回放

    本文介绍了一种名为 ExStream 的算法，通过内存高效的复习来避免深度神经网络在流式学习中出现的灾难性遗忘问题，与传统算法相比表现更好。

    Sep, 2018

  • 强化经验重放的连续学习

    本研究提出了一种基于强化经验回放的连续学习方法，通过使用当前训练数据模仿未来经验，以及蒸馏内存缓冲区的过去经验，来提高模型的预测一致性，从而有效保留已获得的知识。实验结果表明，我们的方法在多个图像分类数据集上优于现有方法。

    May, 2023

  • 在线连续学习中减少突变表示变化的新见解

    本研究提出了一种基于经验回放的在线连续学习方法，该方法使用不对称更新规则，使得新类别能够更好地适应先前观察到的类别，并在标准连续学习基准测试中获得显著的性能提升。

    Mar, 2022

  • AdaER：一种自适应经验重播方法用于持续终身学习

    AdaER 是一种用于解决持续终身学习中的灾难性遗忘挑战的新算法，通过引入 C-CMR 策略和 E-BRS 策略来选择性地重播与当前输入数据最矛盾的记忆，并最大化信息熵以提高记忆缓冲区的性能，进而在实验中表现出优于现有基准方法的持续终身学习效果。

    Aug, 2023

  • 连续学习中重放策略的基准和实证分析

    本篇文章探讨了如何通过回放记忆的方式来解决深度神经网络在连续学习时的 “灾难性遗忘” 问题，并对各种取样策略下回放数据的效率、性能和可伸缩性进行了深入评估，最终提供了一个针对各种数据分布选择回放方法的实用解决方案。

    Aug, 2022

  • 大规模持续学习中重放记忆的有效性

    本研究提出了一种新的压缩激活重放技术，以中间层激活的重放增强深度模型的正则化效果，它在大规模任务、分裂 - CIFAR 和分裂 - miniImageNet 数据集上均有显着效果。

    Oct, 2020

  • 在线持续学习中减少突然表征变化的新见解

    研究在线持续学习范式下，使用经验回放（ER）对抗内存与计算约束时，新添加的类别在 ER 下表示的变化，通过实证分析验证减轻高度干扰参数更新的新方法。该方法采用不对称更新规则，有利于在任务边界时避免遗忘。在标准持续学习基准测试中，与强基线方法相比取得了显著提高。

    Apr, 2021

  • 防止灾难性遗忘的神经网络提醒

    提出 REMIND 方法，用于神经网络的在线学习。该方法以压缩的记忆方式实现了网络的更新，达到了降低过去学习内容遗忘的目的，并在图像分类和视觉问答任务中表现出了优越性。

    Oct, 2019

  • 实时连续学习的潜在回放

    本文提出了一种称为 “隐式回放” 的技术，该技术可以在边缘计算和嵌入式设备上有效地训练复杂的神经网络模型，并利用连续学习技术实现了较高的自适应性和自主性。我们的实验表明，结合现有的连续学习技术，隐式回放在复杂视频基准测试方面取得了最先进的性能，并且在智能手机上部署该技术可以实现几乎实时的连续学习。

    Dec, 2019