CVPRMar, 2021

稀疏解耦潜在表示的斥力吸引驱动下的不断语义分割

PDF
TL;DR本文提出了一种新的持续学习方案，该方案通过神经网络的原型匹配、特征稀疏化和对比学习等三个新组件来纠正模型在学习新任务时遗忘旧任务的问题，在语义分割上进行了测试并在 Pascal VOC2012 和 ADE20K 数据集上取得了显著的准确性，远超过现有技术。
发现论文，激发创造
  • 大规模遥感数据语义分割的增量学习

    本研究提出一种增量学习方法，可在不影响之前学习到的类别的情况下，学习新类别的语义分割，同时，利用记忆网络来记忆之前学习到的信息。

    Oct, 2018

  • 基于重播的连续学习在语义分割中的应用: RECALL

    研究使用生成对抗网络和网络抓取数据重现不可用的旧类数据，避免遗忘和背景类的数据分布变化，达到在连续学习中存在不同步骤和背景类分布变化的情况下更好的表现。

    Aug, 2021

  • 语义分割的增量学习技术

    本研究旨在解决深度学习架构在面临新增任务时由于灾难性遗忘导致性能下降的问题，提出了一种知识蒸馏方法来保留以前学习过的类别信息，并同时学习新类别，本文在 Pascal VOC2012 数据集上进行了实验验证其有效性。

    Jul, 2019

  • 分离记忆编辑与模型更新的解耦继续学习

    机器学习系统的持续学习能力受到灾难性遗忘的限制，本文提出一种新的概念性方法来解决持续分类中的问题，通过区分需要记忆的类别特定信息和总结泛化的类别无关知识，并且通过利用类别无关网络来执行分类，提高随时间推移过去任务的准确性，同时支持开放式分类和一次性泛化模型。

    Dec, 2023

  • 解决连续语义分割中的灾难性遗忘和背景偏移

    本文提出了一种名为 PLOP 的方法，使用了多尺度池化蒸馏技术，在特征级别上保留了长程和短程空间关系，并设计了一种基于熵的伪标签方法来处理背景变化和避免旧类的灾难性遗忘，并引入了一种新的排练方法，特别适用于分割。在现有的连续语境场景以及新的提出的具有挑战性的基准测试中，我们的方法显着优于现有的最先进方法。

    Jun, 2021

  • 稀疏数据下基于类别增量和粗细策略的 LiDAR 语义分割的持续学习

    本文探究了点云语义分割中类增量学习的问题，比较了不同的连续学习策略和先进的架构，并且在 SemanticKITTI 数据集上获得了与现有方法相当的效果。

    Apr, 2023

  • 子空间蒸馏的持续学习

    持续学习中保护之前学习到的知识，同时学习新任务的最终目标。为了减轻对先前知识的遗忘，我们提出了一种新的知识蒸馏技术，它考虑了神经网络的潜在 / 输出空间的流形结构，在学习新任务时将数据流形近似为一阶，并利用线性子空间来建模结构并保持神经网络的知识，从而降低持续学习中的灾难性遗忘。我们还讨论并展示了如何采用我们提出的方法来解决分类和分割问题。在实证上，我们观察到我们提出的方法在包括 Pascal VOC 和 Tiny-Imagenet 在内的几个具有挑战性的数据集上优于各种连续学习方法。此外，我们展示了如何将所提出的方法与现有的学习方法无缝结合，以提高它们的性能。本文的代码将在此 https URL 处提供。

    Jul, 2023

  • SpaceNet: 为持续学习腾出自由空间

    在类增量学习场景中，利用可用模型容量提出 SpaceNet，该方法从头开始以自适应方式训练稀疏的深度神经网络，压缩每个任务的稀疏连接到较少的神经元，实现稀疏表示并降低任务之间的干扰。在多个 CL 基准测试中，SpaceNet 优于基于正则化的方法，并且比扩容的基于架构的方法性能更好，同时还实现了大幅度的内存缩减。

    Jul, 2020

  • 语义分割中的增量学习知识蒸馏

    本文着重介绍了如何应用知识蒸馏技术来处理增量学习的语义分割问题。经过在 Pascal VOC2012 和 MSRC-v2 数据集上的实验，该方法在多个增量学习场景中表现出显著的有效性。

    Nov, 2019

  • PLOP: 持续语义分割中无遗忘学习

    通过提出 Local POD 算法和基于熵的伪标记方法 PLOP，解决了在连续学习的语义分割任务中遗忘问题和背景漂移问题，提高了模型的性能。

    Nov, 2020