Apr, 2022

基础模型的持续学习：潜在重放的经验研究

HTML
PDF
TL;DR本研究探讨大规模预训练模型在下游持续学习场景中的作用，发现使用非参分类器可以在低计算开销下达到合理的CL性能；解释了更广泛数据预训练模型的表现，探讨了它们的表征相似性和迁移属性；展示了自监督预训练在下游领域上的有效性，和提高潜在CL效果的方向。
发现论文，激发创造
  • 大规模持续学习中重放记忆的有效性

    本研究提出了一种新的压缩激活重放技术，以中间层激活的重放增强深度模型的正则化效果，它在大规模任务、分裂-CIFAR和分裂-miniImageNet数据集上均有显着效果。

    Oct, 2020

  • 在线持续学习中减少突然表征变化的新见解

    研究在线持续学习范式下，使用经验回放（ER）对抗内存与计算约束时，新添加的类别在ER下表示的变化，通过实证分析验证减轻高度干扰参数更新的新方法。该方法采用不对称更新规则，有利于在任务边界时避免遗忘。在标准持续学习基准测试中，与强基线方法相比取得了显著提高。

    Apr, 2021

  • SPeCiaL：自监督预训练用于持续学习

    本文提出了一种用于无监督预训练的方法SPeCiaL，旨在为连续学习定制表示。我们的方法通过序列学习过程差异化地制定了元学习目标，从而产生偏向于快速知识保留且遗忘最小化的表示。在连续小样本学习中，我们评估了SPeCiaL的性能，并展示它能够匹配或胜过其他有监督的预训练方法。

    Jun, 2021

  • 监督和无监督连续学习中的表示遗忘探究

    通过对最优线性分类器表现的差异考虑“表示忘却”的概念，本研究重新审视了一些标准的连续学习基准，并观察到在没有任何明确控制忘却的情况下，模型表示通常会经历较小的表示忘却，并且有时可以与明确控制忘却的方法相当，尤其是在更长的任务序列中。我们还展示了表示忘却如何推动我们对于连续学习中模型容纳能力和损失函数影响的认识。基于这些结果，我们提出一个简单但是竞争力强的方法是，在构建旧样本的原型时，通过标准的有监督对比学习来不断地学习表示。

    Mar, 2022

  • 忘却是否是正向迁移的良好归纳偏差?

    研究探讨了持续学习算法中前向传递的表现力，并考察了连续学习算法在图像分类领域的表现。结果发现，保留过去信息的表现力更好，同时这种表现力更加多样和可辨识。

    Mar, 2023

  • 前瞻性选择性可塑性实现视觉任务的持续学习

    通过观察对神经网络输出的对比损失的冗余引发能力，我们的方法利用新任务的前几个样本来识别和保留对神经网络传递能力最有贡献的参数，从而使网络的其余部分能够学习新特征，并在诸如CIFAR10和TinyImagenet等基准计算机视觉数据集上证明了在任务增量、类别增量和领域增量持续学习场景中的最先进性能。

    Nov, 2023

  • 跨层表示优化预训练模型的无需重演训练的持续学习

    我们提出了LayUP，这是一种基于类原型的持续学习方法，利用预训练网络的多个中间层的二阶特征统计。与最佳基准线相比，LayUP在七种类增量学习设置中提高了四种，并且在内存和计算资源占用方面大大减少。我们的结果表明，充分利用预训练模型在持续学习中的表示能力远不止于最终嵌入。

    Dec, 2023

  • 使用预训练模型的不断学习：调查

    本文是对基于预训练模型的持续学习最新进展的综合调查，将现有方法分为三组进行分类，提供了它们的相似性、差异性、以及各自的优缺点的比较分析，并通过实证研究对比了各种最先进的方法，以凸显比较中公平性方面的关注点。

    Jan, 2024

  • 连续学习中的自适应记忆回放

    基于丰富的记忆资源和训练效率的重视，我们引入了一种适应性记忆回放的框架来解决不断学习问题，通过多臂赌博机问题的方法来动态选择训练数据，从而在保持高性能的同时减少了遗忘达10%。

    Apr, 2024

  • 在连续学习中利用测试时间数据控制遗忘

    通过利用测试数据进行自我监督，以减少遗忘，并提出了基于梯度稀疏参数更新的简单但有效的学生-教师模型，进而显著改善了模型的性能和减少了遗忘。

    Jun, 2024