递归梯度优化的连续学习

Jan, 2022

Continual Learning with Recursive Gradient Optimization

Hao Liu, Huaping Liu

TL;DR本研究引入了一种名为Recursive Gradient Optimization的新方法，该方法不仅能够在没有数据重放的情况下修正梯度以减少遗忘，而且还具有虚拟特征编码层(FEL)，该层只使用任务描述符即可表示不同的长期结构。实验表明，与基线相比，RGO在流行的连续分类基准测试中表现显著更好，并在20-split-CIFAR100(82.22%) 和 20-split-miniImageNet(72.63%)中取得了新的最佳性能。该方法比单任务学习（STL）具有更高的平均准确性，而且灵活可靠，在学习依赖于梯度下降的模型的连续学习方面具有潜在的应用价值。

Abstract

Learning multiple tasks sequentially without forgetting previous knowledge, called continual learning(CL), remains a long-standing challenge for neural networks. Most existing methods rely on additional network c

发现论文，激发创造

一项继续学习调查：在分类任务中应对遗忘

本文研究了基于任务增量分类的持续学习方法，提出了一种新的框架来确定持续学习者的稳定性与可塑性的权衡，并通过三个基准测试以及综合实验比较了11种持续学习方法和4种基线的方法的强弱和影响。

Sep, 2019

循环神经网络中的持续学习

本文针对循环神经网络(RNNs)顺序数据的连续学习(CL)方法进行了全面评估，发现了应用权重重要性方法时的特殊性，并提出了一种基于超级网络的正则化方法，有效解决了RNNs上的连续学习问题。

Jun, 2020

渐变投影记忆用于连续学习

提出一种新颖的方法，通过奇异值分解来获取梯度子空间，以进行正交梯度下降，从而减少深度神经网络在学习新任务时过度调整权重而忘记旧任务的现象。

Mar, 2021

分层优化：通过梯度分解进行持续学习

通过梯度分解的方式，实现一个新的连续学习方法，在保留之前任务特定知识的同时，促进共同知识整合，避免了梯度大小变化的影响并实现了当前领域最佳结果。

May, 2021

连续反向传播：带有持续随机性的随机梯度下降

在神经网络的反向传播算法中，初始随机权重对于其整个训练过程至关重要，但在不断学习的设置下，其学习性能会逐渐下降，为了解决这个问题，提出了一种名为 Continual Backprop 的新算法，通过连续注入随机特征，它在有监督和增强学习问题中均能够不断适应。

Aug, 2021

利用缩放梯度投影进行连续学习

本研究提出了一种基于Scaled Gradient Projection方法的神经网络演化学习算法，通过横跨重要梯度空间的基向量缩放梯度来避免老任务信息的灾难性遗忘，优化新学习表现，实验证明其在各种任务中性能均优于目前最先进的方法。

Feb, 2023

连续学习的两个互补视角：不仅问什么要优化，还要问怎么优化

连续学习中，我们提出应该同时关注优化目标和优化方式，结合重放逼近联合目标和梯度投影优化方法，以减轻稳定性差距、增加学习效率和改善最终学习结果。

Nov, 2023

类梯度投影用于持续学习

本文提出了一种应对连续学习（CL）中灾难性遗忘问题的方法，即类梯度投影（CGP）。通过利用已有类别的梯度子空间，将梯度更新投影到该子空间来减少其他类别的干扰。进一步通过基础优化和对比学习方法来提高模型处理新任务的能力，实验证明了该方法的有效性。

Nov, 2023

关于自适应方法在连续学习中的收敛性

该论文介绍了对于连续学习中的收敛性分析，提出了一种适应性方法用于非凸连续学习，该方法调整先前和当前任务的梯度的步长，以达到与 SGD 方法相同的收敛速度，并且在减轻每次迭代的灾难性遗忘项的情况下，改进了连续学习在几个图像分类任务中的性能。

Apr, 2024

减缓持续学习中的遗忘

本研究针对持续学习中的灾难性遗忘问题，提出了一种名为ReCL的新框架，旨在减缓遗忘现象。该框架利用梯度基础神经网络的隐含偏差，重建旧数据并与当前训练数据结合，从而提高模型的性能。实验表明，ReCL在多种持续学习场景和不同数据集上显著提升了性能，是首个通过利用模型自我作为记忆缓冲区来解决灾难性遗忘问题的方法。

Nov, 2024