Jan, 2022

递归梯度优化的连续学习

PDF
TL;DR本研究引入了一种名为 Recursive Gradient Optimization 的新方法，该方法不仅能够在没有数据重放的情况下修正梯度以减少遗忘，而且还具有虚拟特征编码层 (FEL)，该层只使用任务描述符即可表示不同的长期结构。实验表明，与基线相比，RGO 在流行的连续分类基准测试中表现显著更好，并在 20-split-CIFAR100 (82.22%) 和 20-split-miniImageNet (72.63%) 中取得了新的最佳性能。该方法比单任务学习（STL）具有更高的平均准确性，而且灵活可靠，在学习依赖于梯度下降的模型的连续学习方面具有潜在的应用价值。
continual learningrecursive gradient optimizationfeature encoding layerforgettingstate-of-the-art performance
发现论文，激发创造
  • 封闭循环记忆 GAN 用于连续学习

    本文提出了一种基于累计的闭环记忆重放生成对抗网络的方案，并引入了外部正则化进行最大样本多样性的小型内存单元。实验结果表明，在使用动态内存单元的条件下，该方案在处理硬任务学习方面具有很高的性能增长。

    Nov, 2018

  • GCR: 基于梯度子集的重放缓冲区选择，用于连续学习

    本研究介绍了 Gradient Coreset Replay 作为一种新的 replay-based CL 策略，该策略可有效应对 continual learning 中的 catastrophic forgetting，同时还展示了在离线 / 在线 CL 场景下与现有方法相比取得的显著收益并讨论了基于监督对比损失的可持续学习的收益。

    Nov, 2021

  • 正交梯度下降用于连续学习

    该论文通过从参数空间的角度解决神经网络的连续学习问题，提出了正交梯度下降（OGD）方法，并通过限制梯度更新方向来避免遗忘之前学习的数据。该方法可以更有效地利用神经网络的高容量，并不需要存储先前学习的数据。实验证明，所提出的 OGD 方法是有效的。

    Oct, 2019

  • CLoG: 图像生成模型的持续学习基准测试

    在人工智能中，持续学习（Continual Learning）是一个重要的挑战，旨在模拟人类不断获得知识和技能的能力。本研究将关注点从基于分类任务的持续学习转移到生成模型的持续学习（CLoG）。研究通过对比传统的基于分类任务的持续学习，系统性地识别了 CLoG 所面临的独特挑战。研究在生成任务中引入了基于回放、正则化和参数隔离等三种现有的持续学习方法，并提出了广泛任务覆盖和多样性的 CLoG 基准。通过基准测试和结果分析，揭示了有价值的见解，对未来的 CLoG 方法的开发具有重要意义。此外，作者还公开了一个代码库，旨在促进 CLoG 的基准测试和实验，从而在终身学习范 paradigma 内为下一代 AI 生成内容（AIGC）开辟新的道路。

    Jun, 2024

  • 连续学习中任务数量的缩放

    本文探讨了在有限环境中增长任务数量的情景下，通过一种新的实验框架 SCoLe，借助随机梯度下降法，实现在长序列的任务中进行知识积累和保留，提出了一种改进的随机梯度下降方法以便于在此设置中进行继续学习的算法，并通过合适的实验框架展示了新的可持续性学习学习机制。

    Jul, 2022

  • SketchOGD：内存高效的持续学习

    本文提出 SketchOGD 作为解决连续任务中机器学习模型遗忘的内存高效算法，使用在线素描算法压缩模型梯度，并在理论和实验上进行了评估。

    May, 2023

  • 基于聚类的领域增量学习

    通过使用基于在线聚类的方法解决连续学习中的灾难性遗忘问题，成功地应用于域增量学习，并展示了这种方法在真实数据集上的有效性及与最先进方法的优越性能。

    Sep, 2023

  • 残差连续学习

    本文提出了一种新的连续学习方法 Residual Continual Learning (ResCL)，通过对网络参数进行线性组合并使用特殊的权重衰减损失函数，该方法可以避免在多个任务的顺序学习中出现灾难性遗忘现象，同时在各种连续学习场景下表现出最先进的性能。

    Feb, 2020

  • 强化连续学习

    本论文提出了一种称之为强化连续学习的方法，该方法通过巧妙设计的强化学习策略为每个任务搜索最佳神经架构，不仅能够在防止灾难性遗忘方面有很好的性能，还能够适应新任务。在 MNIST 和 CIFAR-100 数据集的连续分类任务实验中，该方法优于现有的深度网络连续学习替代方案。

    May, 2018

  • 连续学习的两个互补视角：不仅问什么要优化，还要问怎么优化

    连续学习中，我们提出应该同时关注优化目标和优化方式，结合重放逼近联合目标和梯度投影优化方法，以减轻稳定性差距、增加学习效率和改善最终学习结果。

    Nov, 2023