Sep, 2023

HPCR: 基于整体代理的对照回放技术用于在线持续学习

PDF
TL;DR在线连续学习（OCL）旨在通过对在线数据流的单次遍历来不断学习新数据，但通常会遭受灾难性遗忘问题。本文对基于回放的两种回放方式进行综合分析，并发现它们可以互补。基于此发现，我们提出了一种名为代理对比回放（PCR）的新型回放方法，该方法通过将锚点 - 样本对替换为锚点 - 代理对来缓解遗忘现象。基于 PCR，我们进一步开发了一种更高级的方法，名为整体代理对比回放（HPCR），它由三个组件组成，在四个数据集上的实验证明了 HPCR 相对于各种现有方法的优越性。
发现论文，激发创造
  • PCR：基于代理的对比回放用于在线类增量连续学习

    本研究针对在线学习中的持续学习问题，提出了一种代理 - 对比重演（PCR）的新方法，通过解决不平衡问题和保持更快的收敛速度，有效缓解了历史知识丢失和忘记问题，并在三个真实数据集上实验验证了方法的有效性。

    Apr, 2023

  • 在线原型学习用于在线连续学习

    在线连续学习中，通过在单通数据流中不断学习新数据并减轻灾难性遗忘的问题，本文分析了在新的学习任务中为何在线学习模型无法很好地泛化的快捷学习，然后提出了在线原型学习框架（OnPro），通过在线原型平衡和自适应原型反馈机制，达到良好分离所有已见类别、学习新类别的平衡状态，并在广泛使用的基准数据集上通过实验证明了 OnPro 相对于最先进的基准方法的卓越性能。

    Aug, 2023

  • 分层近端回放：一种用于在线连续学习的近端点方法

    在在线连续学习中，通过经验重放防止灾难性遗忘和过拟合的神经网络优化过程可能出现不稳定的轨迹，我们提出了一种解决方案 —— 分层近似重放 (LPR)，通过优化几何图形，平衡新数据和重放数据的学习，但仅允许对过去数据的隐藏激活进行逐渐变化，我们证明 LPR 在多个问题设置下稳定提升了基于重放的在线连续学习方法的性能，不受可用重放内存的影响。

    Feb, 2024

  • 基于显著性导向的隐藏联想回放用于持续学习

    这篇研究论文介绍了一种用于持续学习的新框架，它将关联记忆与回放策略相结合，通过稀疏内存编码归档显著的数据片段，并引入面向内容的记忆检索机制，通过实验证明了该方法在各种持续学习任务中的有效性。

    Oct, 2023

  • GCR: 基于梯度子集的重放缓冲区选择，用于连续学习

    本研究介绍了 Gradient Coreset Replay 作为一种新的 replay-based CL 策略，该策略可有效应对 continual learning 中的 catastrophic forgetting，同时还展示了在离线 / 在线 CL 场景下与现有方法相比取得的显著收益并讨论了基于监督对比损失的可持续学习的收益。

    Nov, 2021

  • CORE：通过认知重播减轻连续学习中的灾难性遗忘

    本文介绍了一种新颖的观点，以显著减轻连续学习中的灾难性遗忘，强调模型保持现有知识和吸收新信息的能力。我们提出了 COgnitive REplay (CORE) 的方法，包括自适应数量分配和质量导向数据选择这两个关键策略。该方法在 split-CIFAR10 上的平均准确率为 37.95%，超过最佳基准方法 6.52%。此外，它还将最差表现任务的准确率相比顶级基准提高了 6.30%。

    Feb, 2024

  • 基于重要性采样和原型 - 实例关系蒸馏的对比持续学习

    基于对比学习的连续学习方法，该研究提出了基于重放缓冲区选择（RBS）的对比连续学习方法以确保知识的保留，并使用原型 - 实例关系蒸馏（PRD）损失来维护样本表示与原型之间的关系，实验证明该方法在在线环境中有效消除灾难性遗忘问题。

    Mar, 2024

  • 在线持续学习的简单而强大的基线：重复增强训练

    本论文重新审视了在线学习中排挤记忆（rehearsal）动态。我们从偏差和动态经验风险最小化的角度提供了理论见解，并检查了重复练习的优点和局限性。受我们的分析启发，设计了一个简单直观的 “重复增强排挤（Repeated Augmented Rehearsal，RAR）” 基线，以解决在线排练的欠拟合和过拟合问题。该论文还展示了 RAR 在学习轨迹中成功实现了对过去数据损失景观和高损失梁脊的准确近似。我们通过广泛的消融研究研究了重复和增强练习之间的相互作用，同时应用强化学习（RL）来动态调整 RAR 的超参数，以在线平衡稳定性 - 可塑性权衡。

    Sep, 2022

  • HCL：基于分层对比学习的图像表示改进

    在图表征学习中，提出了一种新的分层对比学习 (Hierarchical Contrastive Learning, 简称 HCL) 框架，采用自适应的 L2Pool 方法进行更合理的多尺度图形拓扑构建，并采用多通道伪孪生网络来进一步扩展各级别内的互信息学习，以获得更丰富和更具层次感的表示。通过实验，HCL 在节点分类、节点聚类和图分类等 12 个数据集上均取得了具有竞争力的性能表现，并且通过可视化显示，HCL 成功捕捉到了图的有意义特征。

    Oct, 2022

  • 通过协作学习改进在线持续学习的可塑性

    在线连续学习是解决从连续数据流中学习不断出现的新分类任务的问题，本文提出了 Collaborative Continual Learning (CCL) 和 Distillation Chain (DC) 两种方法，通过合作学习和知识蒸馏，大幅提高了模型的学习能力和性能。

    Dec, 2023