ICCVAug, 2021

基于重播的连续学习在语义分割中的应用: RECALL

PDF
TL;DR研究使用生成对抗网络和网络抓取数据重现不可用的旧类数据，避免遗忘和背景类的数据分布变化，达到在连续学习中存在不同步骤和背景类分布变化的情况下更好的表现。
deep networkscontinual learningcatastrophic forgettinggenerative adversarial networkincremental learning
发现论文，激发创造
  • RECALL+: 广告网络回放对语义分割中的持续学习

    通过利用无监督的网络爬取数据检索旧类别示例，本文拓展了之前的方法（RECALL）并通过对抗学习和自适应阈值选择与当前训练数据相似的网络数据样本以解决持续学习中的遗忘问题，在多个增量学习步骤中表现出卓越的结果。

    Sep, 2023

  • 大规模遥感数据语义分割的增量学习

    本研究提出一种增量学习方法，可在不影响之前学习到的类别的情况下，学习新类别的语义分割，同时，利用记忆网络来记忆之前学习到的信息。

    Oct, 2018

  • 防止灾难性遗忘的神经网络提醒

    提出 REMIND 方法，用于神经网络的在线学习。该方法以压缩的记忆方式实现了网络的更新，达到了降低过去学习内容遗忘的目的，并在图像分类和视觉问答任务中表现出了优越性。

    Oct, 2019

  • RECALL: 无需回忆的连续学习用于目标分类

    提出了一种名为 RECALL 的新型无训练回溯方法，可持续性地学习新的未见过的物体类别，采用回想流程对旧类别进行分类，采用新头部来适应新类别，同时提出了一个正则化策略来减轻遗忘，提出了包括方差的马氏损失，以适应可变密度的新旧类别差异，并在 HOWS-CL-25 数据集上验证了方法的有效性。

    Sep, 2022

  • 增强回放的连续强化学习

    RECALL 是一种重播增强方法，通过自适应规范化和旧任务的策略蒸馏，在新任务上增强普适性和稳定性，从而显著改善持续强化学习中灾难性遗忘的问题。在 Continual World 基准测试中，RECALL 的性能明显优于纯粹的完美记忆重播，与最先进的持续学习方法相比，整体性能相当甚至更好。

    Nov, 2023

  • 深度生成回放的持续学习

    本文提出一种新的深度学习框架 Deep Generative Replay 来解决在实现万能人工智能时的一个长期问题：灾难性遗忘。通过引入灵感于灵长类大脑海马体的短期记忆系统，在该框架中包含一个生成模型和一个任务求解模型，并在图像分类任务中进行了相关实验和测试。

    May, 2017

  • 稀疏解耦潜在表示的斥力吸引驱动下的不断语义分割

    本文提出了一种新的持续学习方案，该方案通过神经网络的原型匹配、特征稀疏化和对比学习等三个新组件来纠正模型在学习新任务时遗忘旧任务的问题，在语义分割上进行了测试并在 Pascal VOC2012 和 ADE20K 数据集上取得了显著的准确性，远超过现有技术。

    Mar, 2021

  • 伪重演：实现深度强化学习而不会发生灾难性遗忘

    提出了一种利用深度生成网络结合图像分类和强化学习领域中的连续学习思想的模型，该模型具有双重记忆系统和伪回放系统，能够在 Atari 2600 游戏中完成顺序学习而不会遗忘前面的任务，并且随着任务数量的增加不需要额外的存储要求，存储原始数据或重新访问过去的任务。

    Dec, 2018

  • 基于显著性导向的隐藏联想回放用于持续学习

    这篇研究论文介绍了一种用于持续学习的新框架，它将关联记忆与回放策略相结合，通过稀疏内存编码归档显著的数据片段，并引入面向内容的记忆检索机制，通过实验证明了该方法在各种持续学习任务中的有效性。

    Oct, 2023

  • 封闭循环记忆 GAN 用于连续学习

    本文提出了一种基于累计的闭环记忆重放生成对抗网络的方案，并引入了外部正则化进行最大样本多样性的小型内存单元。实验结果表明，在使用动态内存单元的条件下，该方案在处理硬任务学习方面具有很高的性能增长。

    Nov, 2018