本研究提出了一种基于经验回放的在线连续学习方法，该方法使用不对称更新规则，使得新类别能够更好地适应先前观察到的类别，并在标准连续学习基准测试中获得显著的性能提升。

Mar, 2022

研究在线持续学习范式下，使用经验回放（ER）对抗内存与计算约束时，新添加的类别在 ER 下表示的变化，通过实证分析验证减轻高度干扰参数更新的新方法。该方法采用不对称更新规则，有利于在任务边界时避免遗忘。在标准持续学习基准测试中，与强基线方法相比取得了显著提高。

Apr, 2021

研究了当神经网络被培训在一个时间上变化的数据流时，其面临的 “灾难性遗忘” 问题。本文提出并实验了一种简单的 rehearsal-based 方法，即 Experience Replay，并证明其相对于现有的基于 rehearsal 的方法有了极大的精度提升。

Oct, 2020

AdaER 是一种用于解决持续终身学习中的灾难性遗忘挑战的新算法，通过引入 C-CMR 策略和 E-BRS 策略来选择性地重播与当前输入数据最矛盾的记忆，并最大化信息熵以提高记忆缓冲区的性能，进而在实验中表现出优于现有基准方法的持续终身学习效果。

Aug, 2023

本文提出了一种新算法 CUER，该算法在考虑所有其他经验的公平性的同时，通过使采样状态分布更接近于策略，以解决经验回放中转换重要性动态调整的问题，从而在样本效率、最终性能和训练期间策略的稳定性方面显著提高离策略连续控制算法。

Jun, 2024

提出了一种基于重要性采样的算法来处理稀疏奖励带来的偏差问题，并在高维度随机环境中显示了其有效性。

Jul, 2022

通过在 Experience Replay 框架中引入一致性正则化方法，将其作为自监督前提任务，并在各种连续学习场景下进行研究。结果表明，相对严格的一致性约束可以更好地保留以前任务的信息。

Jul, 2022

本文提出一种基于向量的解法，用于构建与点击、偏差和排序特征等相关联的、不受限制的点击概率模型，并基于此方法提出了一种名为统计向量化的自适应学习排序模型，实验证明其表现优于现有的无偏学习方法。

Jun, 2022

介绍了一种新的在线学习算法 —— 无偏在线递推优化（UORO），利用它可以进行通用递推计算图的在线学习，适用于递推网络模型等。UORO 算法避免了回溯过去激活和输入的需要，是一种类似于截断 BPTT 算法的计算算法。UORO 利用无偏梯度估计提供了无偏导数，而截断 BPTT 没有这个属性，而导致可能发散。

Feb, 2017

本研究提出了一种基于强化经验回放的连续学习方法，通过使用当前训练数据模仿未来经验，以及蒸馏内存缓冲区的过去经验，来提高模型的预测一致性，从而有效保留已获得的知识。实验结果表明，我们的方法在多个图像分类数据集上优于现有方法。

May, 2023