ICLRApr, 2022

面向连续学习的信息论在线记忆选择

PDF
TL;DR本文是关于使用信息论从数据流中选择回放内存的在线选择问题的研究，提出了 Surprise 和 Learnability 准则，并使用贝叶斯模型高效地计算这些准则，进一步引入信息熵随机采样器（InfoRS）来选择高信息熵的点进行采样。在连续学习基准测试中，验证了它的效率和功效。
continual learningreplay memory selectioninformation theoryonline learningbayesian model
发现论文，激发创造
  • 基于梯度的在线持续学习样本选择

    本文提出了一种控制遗忘的连续学习方法，通过基于有约束优化的观点来选择回放缓冲区的样本，以减少学习中遗忘的现象，并且与其他基于任务边界的现有方法进行了比较。

    Mar, 2019

  • 最大干扰检索的在线连续学习

    该论文探讨了在机器学习系统中，面对一个不断涌现的数据流的情况下，通过回放的方法来控制采样记忆，从而提供全新的方案来解决单通道数据训练面临的挑战，并通过多个标准基准测试，达到了与或超过现有最先进技术的表现。

    Aug, 2019

  • 提升连续学习中的回放样本选择和存储，减少遗忘

    通过对常用的蓄水池采样方法与其他替代人群策略进行比较，本研究旨在解决连续学习中选择最具信息价值样本和确定最优存储样本数量的问题，并提供了相关的详细分析。

    Aug, 2023

  • 持续模型学习的情节记忆

    本研究探讨在具有有限内存容量的情境下，如何运用基于分层贝叶斯推断的模型选择，以及利用存储在记忆库中的数据解决模型选择中的基本问题。

    Dec, 2017

  • 谨慎行事：规模化持续学习的最佳检索

    通过研究回放方法在连续学习中的应用，本文提出了一种评估选择性检索策略的框架，并评估了多种策略的表现，并提出了防止重放重复的策略，探索是否可以通过学习低损失值的新样本来避免回放。

    Apr, 2024

  • 正则化二阶影响以实现连续学习

    该研究提出了一种利用影响函数建立的框架，识别了回放缓冲区的二阶影响，从而提出了新的选择目标，以规范它们，并提出了一种有效的实现方法。在多个连续学习基准测试中进行的实验表明，该方法优于现有的最先进方法。

    Apr, 2023

  • 连续学习中的自适应记忆回放

    基于丰富的记忆资源和训练效率的重视，我们引入了一种适应性记忆回放的框架来解决不断学习问题，通过多臂赌博机问题的方法来动态选择训练数据，从而在保持高性能的同时减少了遗忘达 10%。

    Apr, 2024

  • 信息引导采样的优化学习

    该研究提出了一种新的信息导向采样的方法，它适用于在线优化问题，通过学习部分反馈，决策者需要在探索和利用之间取得平衡。

    Mar, 2014

  • 针对内存限制的在线持续学习流数据总结

    通过将真实图片的训练特征提炼到更具信息量的样本中，保持训练梯度的一致性和与过去任务的关联性，我们提出了一种从流式数据中总结知识的方法 (SSD)，并进行了多次实验以支持其有效性，其中包括对限制性内存缓冲下连续 CIFAR-100 的性能提升超过 3%。

    May, 2023

  • 连续学习中重放策略的基准和实证分析

    本篇文章探讨了如何通过回放记忆的方式来解决深度神经网络在连续学习时的 “灾难性遗忘” 问题，并对各种取样策略下回放数据的效率、性能和可伸缩性进行了深入评估，最终提供了一个针对各种数据分布选择回放方法的实用解决方案。

    Aug, 2022