Dec, 2023

高效扩展和基于梯度的任务推断，用于无回放增量学习

PDF
TL;DR我们提出了一个基于扩展的模型，用于持续学习，通过在先前任务的参数上增加模型来充分利用以前学到的信息，从而实现更好的知识传递。同时，我们还提出了一种强大的任务预测方法，通过使用熵加权的数据增强和伪标签来评估模型性能，并在各种数据集和架构设置中展示了最先进的结果。
expansion-based modelcontinual learningtask-specific parameterknowledge transfertask prediction method
发现论文，激发创造
  • DER：动态可扩展表示用于类增量学习

    提出了一种新颖的、两阶段的学习方法，利用动态可扩展表示进行更有效的概念建模，在三个类别的增量学习基准测试中，该方法始终表现出比其他方法更好很大的优势。

    Mar, 2021

  • 重新思考任务增量学习基线

    研究了一种基于简单有效的调整网络（SAN）的增量学习方法，达到了接近最先进的性能，使用最小的架构大小，而不需要使用先前最先进方法中的内存实例，对 3D 点云对象（ModelNet40）和 2D 图像（CIFAR10，CIFAR100，MiniImageNet，MNIST，PermutedMNIST，notMNIST，SVHN 和 FashionMNIST）识别任务进行了研究，并为公平比较现有方法建立了强有力的基准结果。在 2D 和 3D 领域，我们还观察到 SAN 在任务增量设置中基本不受不同任务顺序的影响。

    May, 2022

  • TaE: 面向长尾类增量学习的任务感知可扩展表示

    通过采用动态网络算法和中心点增强方法，提出一种任务感知可扩展的框架（Task-aware Expandable，TaE），用于解决长尾类增量学习问题，并在 CIFAR-100 和 ImageNet100 数据集上进行实验证明其能取得最先进的性能。

    Feb, 2024

  • 稳定紧凑拣选与自我增长：不遗忘持续学习

    本文提出了一种简单但有效的方法来实现深度学习的连续增量学习，该方法结合了深层模型压缩、关键权重选择和渐进网络扩展的原理，在迭代中实现它们的集成，从而能够实现多种任务的增量学习，避免遗忘并保持模型的紧凑性。在实验中，该方法能够在不遗忘前面任务的情况下，增量学习处理多个任务的深度模型，同时对于单个任务的训练也具有更好的性能表现。

    Oct, 2019

  • 用于判别性和生成性连续学习的高效特征变换

    本文提出了一种称为 EFTs 的简单的任务特定特征映射转换策略，具有强大的灵活性，利用最小的参数增加了基本体系结构，使其在大规模场景下实用；我们还提出了一种特征距离最大化策略来完成类增量设置中的任务预测。通过在较广泛的一系列任务序列中的实验，包括区分性任务和生成任务，证明了该方法的实效性和效率。

    Mar, 2021

  • 解决动态扩展架构下增量学习任务混淆问题

    通过使用多层知识蒸馏等技术，原有的动态扩展架构被改进，被称作任务相关增量学习（TCIL），以改善现有的一些问题，比如任务冲突和遗忘问题，在 CIFAR100 和 ImageNet100 数据集上，实验证明 TCIL 显著提高了准确性。

    Dec, 2022

  • DyTox：使用动态令牌扩展的 Transformers 进行持续学习

    提出了一种基于 Transformer 架构和共享编码器 / 解码器框架的策略，采用动态扩展特殊标记以使解码器网络适用于任务分布，从而在大数据集上取得优异结果，且不需要超参数调整。

    Nov, 2021

  • 基于时间感知正则化的生成式经验回放的类增量学习

    在严格的条件下，通过使用生成回放、模型大小控制、时态正则化等方法，本研究提出了一种脑启发式的持续学习方法，以解决累积学习中遗忘问题，并在重要基准测试中取得了较好的实验结果。

    Oct, 2023

  • iTAML: 一种增量式任务无关元学习方法

    本文提出了一种基于元学习的新方法，通过学习一组不针对旧任务也不针对新任务的广义参数来避免深度神经网络的快速衰落问题，并在五个数据集上进行广泛实验，实现了明显的改进

    Mar, 2020

  • 综合生成回放的任务增量分割：具有并行外观和语义遗忘

    任务增量学习中的综合生成回放框架通过合成图像 - 掩模对来还原外观和语义知识，解决了出现同时外观和语义遗忘的问题。

    Jun, 2024