ICCV 2021 挑战赛 SSLAD-Track3B 的技术报告：Transformer 是更好的持续学习者

ICCVJan, 2022

ICCV 2021 挑战赛 SSLAD-Track3B 的技术报告：Transformer 是更好的持续学习者

Technical Report for ICCV 2021 Challenge SSLAD-Track3B: Transformers Are Better Continual Learners

Duo Li, Guimei Cao, Yunlu Xu, Zhanzhan Cheng, Yi Niu

TL;DR使用 COntinual Learning with Transformer (COLT) 解决 SSLAD-Track 3B 目标检测挑战中由 catastrophic forgetting 引起的问题，并在挑战测试集上获得了 70.78 的平均精度。

Abstract

In the sslad-track 3b challenge on continual learning, we propose the method of continual learning with →

continual learning transformer catastrophic forgetting object detection sslad-track 3b

发现论文，激发创造

连续学习的记忆变压器

记忆转换器是应对神经网络在连续学习中面临的灾难性遗忘挑战的一种方法，通过引入混合适配器和基于生成模型的路由机制来减轻这个问题，实现了各种视觉连续学习任务的最新性能和出色的参数效率。

Apr, 2024

具有 Transformer 的内存高效的持续学习

使用预训练 Transformers 并扩展它们与 Adapters，我们开发了一种方法来增量训练模型处理任务序列，成功地避免了灾难性遗忘并且在多个任务上表现良好。

Mar, 2022

用于在线监督连续学习的变压器

基于 Transformer 的在线继续学习方法，利用其在上下文学习和元学习方面的潜力，结合重放机制以实现快速自适应和持续长期改进，在图像地理定位等任务上展示了显著的改进。

Mar, 2024

低秩适应的连续学习

本文主要研究了基于预训练转换器的领域增量学习问题，在课题涉及的下游数据上，该方法表现出了令人印象深刻的性能，但当数据特征发生变化时，性能会下降；通过研究 Low Rank Adaptation（LoRA）在领域增量学习中的适用性，我们的基于 LoRA 的解决方案 CoLoR 在一系列领域增量学习基准测试中取得了最先进的性能，同时仍然与基于提示调整的方法一样参数高效。

Nov, 2023

基于对比视觉变换器的在线连续学习

本文提出了一种基于 transformer 架构的对比视觉转换器 (CVT) 框架，它设计了一种基于对比学习的强调学习策略，以实现在线学习的更好稳定性 - 可塑性权衡，并通过包含可学习的聚焦点来缓解遗忘。实验结果表明，CVT 方法在在线持续学习基准测试中达到最先进的性能，并有效缓解了灾难性的遗忘。

Jul, 2022

基于 LoRA 的持续学习的任务算术

我们提出了一种新颖的方法，利用低秩适应和任务算术，不断训练基于 Transformer 的视觉模型，绕过灾难性遗忘问题并减少训练计算需求。在每个类别仅使用 10 个样本的小内存的帮助下，我们的方法实现了接近于完整微调的性能，并通过严格的消融实验证明了我们方法的优势。

Nov, 2023

通过内存网络在连续检测中防止灾难性遗忘

现代预训练架构在持续对新任务进行微调时难以保留先前的信息。本文引入了一种基于内存的检测变换器架构，以适应预训练的 DETR 式检测器的新任务，并保留以前任务中的知识。我们提出一种用于从内存单元中高效检索信息的新颖的局部查询函数，旨在最小化遗忘。此外，我们在持续检测中确定了一项称为背景剥夺的根本挑战。当先前任务的对象类别在未来任务中重新出现时，可能没有标签，可能会被隐含地视为背景。这是持续检测或分割中不可避免的问题。引入的持续优化技术有效地解决了这一挑战。最后，我们评估了我们提出的系统在持续检测基准上的性能，并证明我们的方法在 MS-COCO 和 PASCAL-VOC 的持续检测任务上超过了现有技术水平，实现了 5-7% 的改进。

Mar, 2024

LCTR：唤醒 Transformer 的本地连续性以进行弱监督的物体定位

本文提出了一种基于 transformer 的新型框架 LCTR（局部连续 Transformer），旨在增强局部感知能力，包括关系补丁注意模块（RPAM）和 Cue Digging 模块（CDM），在两个广泛使用的数据集上进行了全面实验，验证了该方法的有效性。

Dec, 2021

多模态任务的动态 Transformer 架构

我们提出了一种基于 Transformer 的持续学习框架 TAM-CL，用于学习涉及视觉和语言的多模态任务，并通过引入额外参数和知识蒸馏实现任务间的信息交流，以及解决灾难性遗忘问题。该方法在多种挑战性的多模态任务上达到了最先进的性能。

Jan, 2024

不需示例的连续 Transformer 与卷积

该论文提出了一种称为 ConTraCon 的无样本增量学习方法，它利用了 Transformer 架构，通过使用卷积对 Transformer 的多头自注意力层的键、查询和值的权重进行重新加权，从而维护每个任务的低参数需求，并使用基于图像增强的信息熵任务识别方法在推理过程中预测任务，实验结果表明该方法优于竞争方法并需要更少的参数。

Aug, 2023