Mar, 2024

通过内存网络在连续检测中防止灾难性遗忘

PDF
TL;DR现代预训练架构在持续对新任务进行微调时难以保留先前的信息。本文引入了一种基于内存的检测变换器架构，以适应预训练的 DETR 式检测器的新任务，并保留以前任务中的知识。我们提出一种用于从内存单元中高效检索信息的新颖的局部查询函数，旨在最小化遗忘。此外，我们在持续检测中确定了一项称为背景剥夺的根本挑战。当先前任务的对象类别在未来任务中重新出现时，可能没有标签，可能会被隐含地视为背景。这是持续检测或分割中不可避免的问题。引入的持续优化技术有效地解决了这一挑战。最后，我们评估了我们提出的系统在持续检测基准上的性能，并证明我们的方法在 MS-COCO 和 PASCAL-VOC 的持续检测任务上超过了现有技术水平，实现了 5-7% 的改进。
pre-trained architecturescontinuous fine-tuningmemory-based detection transformerlocalized query functioncontinual detection
发现论文，激发创造
  • 终身目标检测

    本研究提出了一种通过区域提议网络和区域分类网络的知识蒸馏来预防灾难性遗忘的方法，以持续或终身学习实时物体检测，实验结果表明该方法具有较高的 mAP 和 6 倍的推理速度提升。

    Sep, 2020

  • 分离记忆编辑与模型更新的解耦继续学习

    机器学习系统的持续学习能力受到灾难性遗忘的限制，本文提出一种新的概念性方法来解决持续分类中的问题，通过区分需要记忆的类别特定信息和总结泛化的类别无关知识，并且通过利用类别无关网络来执行分类，提高随时间推移过去任务的准确性，同时支持开放式分类和一次性泛化模型。

    Dec, 2023

  • 无灾难遗忘的目标检测的增量学习

    通过使用一种新的损失函数，这篇研究提出了一种解决卷积神经网络增量学习中 “灾难性遗忘” 的问题的方法，可以在没有原始训练数据或注释的情况下适应新类别，并在 PASCAL VOC 2007 和 COCO 数据集上实现了物体检测。

    Aug, 2017

  • 具有 Transformer 的内存高效的持续学习

    使用预训练 Transformers 并扩展它们与 Adapters，我们开发了一种方法来增量训练模型处理任务序列，成功地避免了灾难性遗忘并且在多个任务上表现良好。

    Mar, 2022

  • CODA-Prompt: 基于分解注意力的持续提示学习

    提出了一种注意力机制的端到端关键查询方案，该方案使用输入为条件的权重来组装预置组件以生成输入为条件的提示，以解决在不断变化的训练数据中进行学习时出现的过度遗忘问题，并在多个基准测试中大幅提高了准确度。

    Nov, 2022

  • 解决连续语义分割中的灾难性遗忘和背景偏移

    本文提出了一种名为 PLOP 的方法，使用了多尺度池化蒸馏技术，在特征级别上保留了长程和短程空间关系，并设计了一种基于熵的伪标签方法来处理背景变化和避免旧类的灾难性遗忘，并引入了一种新的排练方法，特别适用于分割。在现有的连续语境场景以及新的提出的具有挑战性的基准测试中，我们的方法显着优于现有的最先进方法。

    Jun, 2021

  • 一项继续学习调查：在分类任务中应对遗忘

    本文研究了基于任务增量分类的持续学习方法，提出了一种新的框架来确定持续学习者的稳定性与可塑性的权衡， 并通过三个基准测试以及综合实验比较了 11 种持续学习方法和 4 种基线的方法的强弱和影响。

    Sep, 2019

  • 持续学习的自适应保留与修正

    我们提出了一种基于在测试阶段的解决方案，引入了一个简单的任务外检测方法（OTD），用于准确识别来自过去任务的样本，借助 OTD，我们提出了自适应保留机制和自适应修正机制，称之为 Adaptive Retention & Correction（ARC），实验证明我们的方法可以与现有的持续学习方法相结合，而无需修改其训练程序，在 CIFAR-100 和 Imagenet-R 数据集上分别实现了 2.7% 和 2.6% 的平均性能提升。

    May, 2024

  • RECALL: 无需回忆的连续学习用于目标分类

    提出了一种名为 RECALL 的新型无训练回溯方法，可持续性地学习新的未见过的物体类别，采用回想流程对旧类别进行分类，采用新头部来适应新类别，同时提出了一个正则化策略来减轻遗忘，提出了包括方差的马氏损失，以适应可变密度的新旧类别差异，并在 HOWS-CL-25 数据集上验证了方法的有效性。

    Sep, 2022

  • 稀疏解耦潜在表示的斥力吸引驱动下的不断语义分割

    本文提出了一种新的持续学习方案，该方案通过神经网络的原型匹配、特征稀疏化和对比学习等三个新组件来纠正模型在学习新任务时遗忘旧任务的问题，在语义分割上进行了测试并在 Pascal VOC2012 和 ADE20K 数据集上取得了显著的准确性，远超过现有技术。

    Mar, 2021