Aug, 2023

通过掩码和视觉提示调整的随机模糊任务边界上的在线课堂增量学习

PDF
TL;DR本文提出了一种名为 Si-Blurry 的新型随机增量模糊任务边界场景，用以反映现实世界的随机属性。作者引入 Mask 和 Visual Prompt tuning（MVP）来解决 Si-Blurry 场景中的任务遗忘和类别不平衡问题，经广泛实验证明 MVP 显著优于现有的方法。
continual learningincremental learningblurry task boundariesinter- and intra-task forgettingsclass imbalance problem
发现论文，激发创造
  • 在线连续学习与任意时刻推断的类增量模糊任务配置

    提出基于在线、免任务、模糊任务边界、随时进行推断查询的连续学习新模型，使用新度量标准评估模型性能，采用新的内存管理方案和学习技术进行有效的方法，实验验证表明，该方法的表现优于先前的方法。

    Oct, 2021

  • 通过抽样多相任务进行少样本类增量学习

    本研究提出基于元学习的 LearnIng Multi-phase Incremental Tasks (LIMIT) 方法，合成假的 Few-shot Class-Incremental Learning 任务来建立分类特征空间，并基于 Transformer 构建校准模块，实现新类别的适应和对旧类别的防遗忘，该方法在多个数据集上实现了最好表现。

    Mar, 2022

  • 语义分割的增量学习技术

    本研究旨在解决深度学习架构在面临新增任务时由于灾难性遗忘导致性能下降的问题，提出了一种知识蒸馏方法来保留以前学习过的类别信息，并同时学习新类别，本文在 Pascal VOC2012 数据集上进行了实验验证其有效性。

    Jul, 2019

  • 从动态不平衡学习的角度重新考虑逐步学习

    通过数据不平衡的角度来分析深度神经网络在连续学习新概念时容易出现灾难性遗忘问题，提出了一种名为 Uniform Prototype Contrastive Learning (UPCL) 的方法，通过学习均匀且紧凑的特征来解决动态不平衡问题，并通过在多个基准数据集上的实验验证了其在性能上的优越性。

    May, 2024

  • MCF-VC: 缓解多模态视频描述中的类递增学习中的灾难性遗忘

    解决视频字幕生成中的灾难性遗忘问题，通过细粒度敏感度选择和两阶段知识蒸馏方法，有效保持模型在新老任务上的性能。

    Feb, 2024

  • 在线污染数据流模糊任务边界下的连续学习

    本文提出了一种在在线学习任务中应对标签噪声和模糊数据流的方法，该方法使用标签噪声感知的多样化采样和半监督学习技术来平衡示例中的多样性和纯度，实验证明该方法显著优于现有的方法。

    Mar, 2022

  • 自适应分类标准在任务增量连续学习中缓解灾难性遗忘

    本文介绍了一种用于持续学习的有监督对比学习框架，旨在通过保存少量的数据和适应的分类准则来解决在学习新任务时可能产生的灾难性遗忘问题，实验表明其表现优异。

    May, 2023

  • 重新思考任务增量学习基线

    研究了一种基于简单有效的调整网络（SAN）的增量学习方法，达到了接近最先进的性能，使用最小的架构大小，而不需要使用先前最先进方法中的内存实例，对 3D 点云对象（ModelNet40）和 2D 图像（CIFAR10，CIFAR100，MiniImageNet，MNIST，PermutedMNIST，notMNIST，SVHN 和 FashionMNIST）识别任务进行了研究，并为公平比较现有方法建立了强有力的基准结果。在 2D 和 3D 领域，我们还观察到 SAN 在任务增量设置中基本不受不同任务顺序的影响。

    May, 2022

  • 前瞻性选择性可塑性实现视觉任务的持续学习

    通过观察对神经网络输出的对比损失的冗余引发能力，我们的方法利用新任务的前几个样本来识别和保留对神经网络传递能力最有贡献的参数，从而使网络的其余部分能够学习新特征，并在诸如 CIFAR10 和 TinyImagenet 等基准计算机视觉数据集上证明了在任务增量、类别增量和领域增量持续学习场景中的最先进性能。

    Nov, 2023

  • 通过注意力引导的增量学习在知识连续中减轻干扰

    通过引入紧凑任务注意力来减少任务干扰，Attention-Guided Incremental Learning (AGILE) 在不同的持续学习场景中优化泛化性能，克服了遗忘之前获取的知识的问题。

    May, 2024