ECCVJun, 2020

书虫持续学习：超越零样本学习与连续学习

PDF
TL;DR本文提出了一种灵活的 Bookworm Continual Learning (BCL) 框架，其中未见过的类别可以通过语义模型进行推断，视觉模型可以持续更新。因此，BCL 推广了连续学习 (CL) 和零样本学习 (ZSL)。本文还提出了双向想象 (BImag) 框架，用于处理 BCL，其中过去和未来两类的特征都能被生成。作者发现将特征生成器信息与属性进行联合会损害连续学习能力，提出了两种变体（联合类属性调节和不对称生成）来减轻这个问题。
bookworm continual learningsemantic modelbidirectional imaginationzero-shot learningattribute conditioning
发现论文，激发创造
  • 借助语言引导监督增强视觉持续学习

    利用预训练语言模型（PLMs）中的语义知识替换持续学习（CL）中的分类器，生成对每个类别的语义目标作为监督信号，以减少遗忘并促进知识传递。

    Mar, 2024

  • 使用互补记忆系统进行开放词汇分类中的持续学习

    本文提出了一种基于树探针机制的灵活持续学习方法，在图片分类领域获得了较好的学习速度和效果以及弹性推理能力。

    Jul, 2023

  • 可持续学习与反向一致特征嵌入的视觉搜索

    本文介绍了一种基于 continual learning 方法的视觉搜索模型，它可以不断更新模型以处理增量式的图库集，同时不会影响模型的特征空间并且可以适用于新的图像类别。

    May, 2022

  • 互动式连续学习：快思和慢思

    基于互动持续学习框架，使用大型语言模型与记忆检索机制，以及模型之间的协作交互，实现抵抗遗忘和优越性能的持续学习。

    Mar, 2024

  • 持续学习的可学习性和算法

    本文研究了挑战性的连续学习（CL）设置下的类增量学习（CIL），证明了 CIL 是可学的，并基于理论提出了一种新的 CIL 算法，并通过实验结果证明了其有效性。

    Jun, 2023

  • 基于生成回放的动态 VAE 模型实现持续零样本学习

    本文提出了一种新的继续零样本学习模型 (DVGR-CZSL)，通过生成式回放来防止灾难性遗忘，该模型与先前学习过的类一起更新。实验证明，这种混合模型在几个数据集中优于基线，能够有效地进行任务顺序学习，并且在零样本学习中具有优越性。

    Apr, 2021

  • 变分连续学习

    本文提出变分连续学习 (Variational Continual Learning，VCL) 框架，它将在线变分推理 (Online Variational Inference, VI) 和神经网络中的蒙特卡罗变分推理 (Monte Carlo VI) 相融合，成功地在任务时序不断演变、全新任务涌现等复杂连续学习情景下对深度判别模型和生成模型进行建模并避免灾难性遗忘的发生。实验结果表明，在多种任务上，VCL 优于现有的连续学习方法。

    Oct, 2017

  • 通过语义引导的生成随机游走实现持续的零样本学习

    通过利用生成建模，我们提出了一个学习算法，在没有给定未知信息的情况下持续进行零样本学习，并在 AWA1、AWA2、CUB 和 SUN 数据集上实现了超出现有连续零样本学习方法的 3-7% 的最新性能。

    Aug, 2023

  • 不断学习，快速泛化：少样本学习的终身知识积累

    该研究提出了一个新的学习框架 CLIF，可以在不断更新的多个 NLP 任务中提高模型的泛化能力，同时保留早期任务的表现，作者使用了多种方法对该框架进行了评估，并提出了一种新的适配器生成方法。

    Apr, 2021

  • 信息论视角下缓解连续文本分类中的灾难性遗忘

    持续学习在避免旧任务遗忘的同时，旨在不断学习新知识。本研究侧重于类增量设置下的文本分类，在探索持续学习的表示学习过程中，发现信息瓶颈的压缩效应导致了对类似类别的混淆。为了使模型学习到更充足的表示，我们提出了一种新颖的基于重放的持续文本分类方法 InfoCL。该方法利用快慢对比学习和当前 - 过去对比学习来进行互信息最大化，更好地恢复之前学到的表示。另外，InfoCL 还采用了对抗性记忆增强策略来缓解重放的过拟合问题。实验结果表明，InfoCL 有效地减轻了遗忘问题，并在三个文本分类任务上达到了最先进的性能。代码公开可用于此 https URL。

    Oct, 2023