实时连续学习的潜在回放

Dec, 2019

Latent Replay for Real-Time Continual Learning

Lorenzo Pellegrini, Gabriele Graffieti, Vincenzo Lomonaco, Davide Maltoni

TL;DR本文提出了一种称为 “隐式回放” 的技术，该技术可以在边缘计算和嵌入式设备上有效地训练复杂的神经网络模型，并利用连续学习技术实现了较高的自适应性和自主性。我们的实验表明，结合现有的连续学习技术，隐式回放在复杂视频基准测试方面取得了最先进的性能，并且在智能手机上部署该技术可以实现几乎实时的连续学习。

Abstract

Training deep neural networks at the edge on light computational devices, embedded systems and robotic platforms is nowadays very challenging. Continual learning techniques, where complex models are incrementally trained on small batches of new data, can make the learning problem tract

continual learning neural networks edge computing robotics latent replay

发现论文，激发创造

大规模持续学习中重放记忆的有效性

本研究提出了一种新的压缩激活重放技术，以中间层激活的重放增强深度模型的正则化效果，它在大规模任务、分裂 - CIFAR 和分裂 - miniImageNet 数据集上均有显着效果。

Oct, 2020

一个用于设备上连续学习的 TinyML 平台，具备量化的潜在回放功能

本文提出了基于 PULP 处理器的深度学习端到端持续学习硬件 / 软件平台，利用量化和潜在重播来优化内存成本，以实现采用小型设备的实践多样性更新。

Oct, 2021

遗忘与回溯：连续学习中的增量潜在校正

本文研究了一种名为增量潜在矫正（Incremental Latent Rectification，ILR）的连续学习方法，通过使用一系列小的表示映射网络（称为矫正器单元），使当前训练的深度神经网络的表示向过去任务的表示空间进行校正，从而有效缓解当前深度神经网络面临的灾难性遗忘问题。实证实验在多个连续学习基准数据集上，包括 CIFAR10、CIFAR100 和 Tiny ImageNet，证明了增量潜在矫正方法相较于已有的连续学习方法的有效性和潜力。

Jun, 2024

经验回放用于连续学习

本文研究了在强化学习中应用经验重放缓解神经网络连续学习中所面临的灾难性遗忘问题，并证明了这种方法可以在 Atari 和 DMLab 领域中很好地解决这个问题。

Nov, 2018

重新思考经验回放：持续学习的技巧集

研究了当神经网络被培训在一个时间上变化的数据流时，其面临的 “灾难性遗忘” 问题。本文提出并实验了一种简单的 rehearsal-based 方法，即 Experience Replay，并证明其相对于现有的基于 rehearsal 的方法有了极大的精度提升。

Oct, 2020

从少量且带有噪声的数据中快速持续学习

本文研究神经网络存在的遗忘问题以及连续学习的解决方案，通过重放机制和元学习的结合，发现引入元学习可以解决传统重放机制在每个任务分配的内存有限时容易导致失效的问题，并在保证学习效率和准确性方面具有优势。

Mar, 2021

基于重播的连续学习在语义分割中的应用: RECALL

研究使用生成对抗网络和网络抓取数据重现不可用的旧类数据，避免遗忘和背景类的数据分布变化，达到在连续学习中存在不同步骤和背景类分布变化的情况下更好的表现。

Aug, 2021

基于显著性导向的隐藏联想回放用于持续学习

这篇研究论文介绍了一种用于持续学习的新框架，它将关联记忆与回放策略相结合，通过稀疏内存编码归档显著的数据片段，并引入面向内容的记忆检索机制，通过实验证明了该方法在各种持续学习任务中的有效性。

Oct, 2023

自动召回机制：内部回放、持续学习与大脑

本篇文章提出了一种新的方法来缓解训练神经网络时非稳态带来的行为遗忘现象，利用模型内部的内隐记忆来进行实时样本生成，并侧重于优化实际的训练数据批次，从而高效和可扩展的进行训练。作者探讨了该方法与大脑模型的对应之处，并发现这种方法的高效特性是自然而然地产生的。

Jun, 2020

分层近端回放：一种用于在线连续学习的近端点方法

在在线连续学习中，通过经验重放防止灾难性遗忘和过拟合的神经网络优化过程可能出现不稳定的轨迹，我们提出了一种解决方案 —— 分层近似重放 (LPR)，通过优化几何图形，平衡新数据和重放数据的学习，但仅允许对过去数据的隐藏激活进行逐渐变化，我们证明 LPR 在多个问题设置下稳定提升了基于重放的在线连续学习方法的性能，不受可用重放内存的影响。

Feb, 2024