Jan, 2022

CLEAR 基准：真实世界图像上的持续学习

PDF
TL;DR本文介绍了 CLEAR 数据集，通过一种新颖的、可扩展的、低成本的视觉语言数据集策划方法，利用预训练的视觉语言模型 CLIP 交互式地构建标记数据集并进行验证，清除了错误和不合适的图像，提出了流处理评估协议并发现，流处理协议可以产生模型更普遍的、更准确的性能估计，包括半监督学习。
continual learningclear datasetvisio-linguistic dataset curationstreamlined evaluation protocolssemi-supervised learning
发现论文，激发创造
  • 从 MNIST 到 ImageNet，再回去：连续课程学习的基准测试

    本研究针对机器学习中的不断学习提出了两个新的基准，该基准涉及来自六个图像数据集的多个异构任务，其目的是为了更好地评估当前最先进的 CL 策略，并显示出当前 CL 模型在真实世界场景中表现较差的能力，高水平遗忘并限制了课程任务顺序。

    Mar, 2023

  • 使用预训练模型的现实继续学习方法

    我们提出了一个新的连续学习（CL）范式 Realistic Continual Learning（RealCL），其中任务之间的类分布是随机的，不同于结构化设置。同时，我们引入了一个名为 CLARE 的预训练模型解决方案，旨在在保留过去学习的同时整合新知识。通过广泛的实验证明了 CLARE 在各种 RealCL 场景中的有效性和优越性。

    Apr, 2024

  • TiC-CLIP: CLIP 模型的持续训练

    通过引入基于网络规模的时间连续基准数据集，我们衡量现有模型的时间鲁棒性，发现基于学习到的时间连续数据进行简单的回训方法可以大幅减少计算量。

    Oct, 2023

  • CLiMB: 用于视觉语言任务的持续学习基准

    本研究介绍了 CLiMB 基准测试，并提出了一种改进的视觉 - 语言 Transformer (ViLT) 模型，用于同时处理多模态任务和单模态任务的连续学习问题。通过实验发现，虽然常见的连续学习方法可以缓解多模态任务学习中的遗忘问题，但并不能实现跨任务的知识转移。该基准测试将有助于研究这个多模态场景下的新型连续学习算法。

    Jun, 2022

  • CLoG: 图像生成模型的持续学习基准测试

    在人工智能中，持续学习（Continual Learning）是一个重要的挑战，旨在模拟人类不断获得知识和技能的能力。本研究将关注点从基于分类任务的持续学习转移到生成模型的持续学习（CLoG）。研究通过对比传统的基于分类任务的持续学习，系统性地识别了 CLoG 所面临的独特挑战。研究在生成任务中引入了基于回放、正则化和参数隔离等三种现有的持续学习方法，并提出了广泛任务覆盖和多样性的 CLoG 基准。通过基准测试和结果分析，揭示了有价值的见解，对未来的 CLoG 方法的开发具有重要意义。此外，作者还公开了一个代码库，旨在促进 CLoG 的基准测试和实验，从而在终身学习范 paradigma 内为下一代 AI 生成内容（AIGC）开辟新的道路。

    Jun, 2024

  • 在线污染数据流模糊任务边界下的连续学习

    本文提出了一种在在线学习任务中应对标签噪声和模糊数据流的方法，该方法使用标签噪声感知的多样化采样和半监督学习技术来平衡示例中的多样性和纯度，实验证明该方法显著优于现有的方法。

    Mar, 2022

  • 计算预算下的持续学习：什么是最重要的？

    本文研究了当计算资源受限时传统的 Continual Learning 方法的效率，并表明它们对于实际部署来说太过计算密集，推荐使用在存储器上均匀抽样作为最初基线。

    Mar, 2023

  • CLIP 模型是高效的继续学习器

    本文发现，CLIP（Contrastive Language-Image Pretraining）模型在冻结状态下，在不进行任何微调（零次评估）的情况下提供惊人的持续学习表现。作者在多种设置（包括类增量、域增量和任务不可知的增量学习）和五个流行基准测试集上评估了 CLIP 模型，证明了其在大多数设置中优于现有模型；同时作者还通过改变简单提示模板的文本输入来研究 CLIP 模型性能的影响。作者鼓励在持续学习任务中使用这种强大而非常简单的基线方法进行未来的比较。

    Oct, 2022

  • 人体状态监测的持续学习

    本文提出了两个与实际环境相似的 CL 基准，分别用于人类状态监测中，研究结果表明，由于基准具有增量属性，遗忘容易被解决，现有策略在固定测试对象上累积知识方面存在困难。

    Jun, 2022

  • 面向命名实体识别的现实单任务连续学习研究

    本文讨论了现实连续学习中的一些挑战和数据演习作为缓解精度损失的一种方式，并从现有公开数据集构建了一个连续学习 NER 数据集并公开发布其与代码给研究社区。

    Oct, 2021