Jul, 2020

批级经验回放与复盘在持续学习中的应用

HTML
PDF
TL;DR本文介绍了我们的方法——基于批次的经验回放与复习——来应对CVPR 2020 CLVision Continual Learning for Computer Vision挑战，并通过CORe50数据集的三个不同迭代学习场景在79个参赛团队中分别获得第一名。
发现论文，激发创造
  • 机器人的持续学习：定义、框架、学习策略、机遇和挑战

    这篇论文介绍了连续学习的概念和机器学习中面临的挑战，提出了在自主体或机器人中使用连续学习以适应环境和优化学习过程的方法，并介绍了现有的基准和度量标准，并提出了一种框架来评估这些方法的有效性。

    Jun, 2019

  • CVPR 2020 计算机视觉持续学习竞赛：方法，结果，当前挑战和未来方向

    本文介绍了计算机视觉中的连续学习问题，通过举办首届连续学习竞赛的方式，评估和对比不同算法的性能和适用性，并总结了赢得比赛的算法和未来的研究方向。

    Sep, 2020

  • 后验元重放在连续学习中的应用

    该研究针对不具有独立同分布观测的连续学习提出了贝叶斯学习的替代方案，即基于概率任务条件化超网络的后验元回放方法，其在标准基准测试中比现有的贝叶斯学习方法表现更好，发现任务推断是其主要限制因素，这一限制有多个原因，与考虑的序列设置无关，为连续学习的进一步发展开辟了新的道路。

    Mar, 2021

  • GCR: 基于梯度子集的重放缓冲区选择，用于连续学习

    本研究介绍了Gradient Coreset Replay作为一种新的replay-based CL策略，该策略可有效应对continual learning中的catastrophic forgetting，同时还展示了在离线/在线CL场景下与现有方法相比取得的显著收益并讨论了基于监督对比损失的可持续学习的收益。

    Nov, 2021

  • 第三届自我中心类别和实例级别物体认知持续学习研讨会比赛

    本文概述了第三届连续学习计算机视觉竞赛（CLVision）在CVPR 2022中举办的挑战的思想、设计选择、规则和结果，其中焦点是复杂的连续物体检测任务，挑战基于新的EgoObjects数据集，涵盖了100k个视频帧中的1000多个独特主要对象和250多个类别，以基准测试连续学习算法的信息视点类别/实例级对象理解。

    Dec, 2022

  • 从 MNIST 到 ImageNet，再回去：连续课程学习的基准测试

    本研究针对机器学习中的不断学习提出了两个新的基准，该基准涉及来自六个图像数据集的多个异构任务，其目的是为了更好地评估当前最先进的CL策略，并显示出当前CL模型在真实世界场景中表现较差的能力，高水平遗忘并限制了课程任务顺序。

    Mar, 2023

  • 强化经验重放的连续学习

    本研究提出了一种基于强化经验回放的连续学习方法，通过使用当前训练数据模仿未来经验，以及蒸馏内存缓冲区的过去经验，来提高模型的预测一致性，从而有效保留已获得的知识。实验结果表明，我们的方法在多个图像分类数据集上优于现有方法。

    May, 2023

  • 提升连续学习中的回放样本选择和存储，减少遗忘

    通过对常用的蓄水池采样方法与其他替代人群策略进行比较，本研究旨在解决连续学习中选择最具信息价值样本和确定最优存储样本数量的问题，并提供了相关的详细分析。

    Aug, 2023

  • 持续学习：应用与未来发展

    连续学习是机器学习的一个子领域，本文调查了连续学习研究中的内存受限设置、未解决的问题以及未来的研究方向。

    Nov, 2023

  • 在重复的情况下进行连续学习

    这篇研究报告总结了CVPR 2023年的CLVision挑战赛，重点讨论了类增量学习中的数据重复问题，介绍了三个解决方案，实验证明基于模块集成的多版本策略对于利用数据流中的重复性进行持续学习是有效的。该报告强调了通过在数据流中利用重复性来促进创新策略设计的转变潜力。

    May, 2024