- 2024 年第五届 CLVISION 挑战赛冠军解决方案
我们介绍了应对第五届 CLVision 挑战赛的方法,该赛事存在传统类别增量学习之外的独特挑战,包括先前遇到的类别的循环出现以及可能包含未标记数据的分布外类别。我们的方法基于赢得子网络,为每个任务分配独立的参数空间以解决类别增量学习中的灾难 - CCSI:连续类别特定印象的无数据类别递增学习
提出了一种新的无数据增量学习框架,通过学习类别的数据综合代替先前类别的数据存储,在引入新类别时更新网络;关键创新包括获取以往无法获取的类别的合成数据(称为 Continual Class-Specific Impression - CCSI - 特征扩展与增强的压缩对于类别增量学习的应用
我们提出了一种新算法,通过使用我们的 Rehearsal-CutMix 方法在压缩过程中切割和混合之前类别样本的图像补丁与新图像,来增强先前类别知识的压缩。在 CIFAR 和 ImageNet 数据集上进行的大量实验证明,我们的方法在不同的 - ICLRHard ASH: 稀疏性和正确的优化器让连续学习者变强
在课堂增量学习中,神经网络通常会遭受灾难性遗忘。我们展示了一种具有稀疏激活函数和自适应学习率优化器的多层感知机,在分割 MNIST 任务中能够与传统的正则化技术竞争。我们强调了自适应 SwisH(ASH)激活函数在此背景下的有效性,并引入了 - G-ACIL: 支持无样本示例的广义类增量学习的分析学习
通过采用解析学习(一种无梯度训练技术)和生成 GCIL 场景的解析解,我们提出了一种无样本的广义解析类增量学习方法(G-ACIL),通过将传入数据分解为暴露和未暴露的类别,实现了增量学习与联合训练之间的等价性(即权重不变性),该等价性通过矩 - 通过增加表示等级和特征丰富性来提高类增量学习的前向兼容性
提出了一种基于特征丰富性的有效秩增强方法(RFR),旨在提高前向兼容性,该方法通过在基础会话期间增加表示的有效秩,从而便于将更多信息丰富的特征纳入未见过的新任务中,并验证方法的有效性和性能改进。
- FOCIL:通过训练随机修剪的稀疏专家进行在线课堂增量学习的微调和冻结
基于在线继续学习的类别增量学习 (Class incremental learning, CIL) 旨在从数据流中仅使用每个数据点进行一次训练,从一系列新类别中获得知识。本文提出了一种名为 FOCIL 的新的在线 CIL 方法,它通过为每个 - DiffClass: 基于扩散的类增量学习
我们提出了一种新的无样本增量学习方法,通过采用多分布匹配扩散模型来统一训练数据的质量,弥合不同域之间的差距,并通过选择性合成图像增强来扩展训练数据的分布,从而增强模型的可塑性和最终组件的性能,在增量训练期间提升模型的稳定性,实验证明这种方法 - CVPRSDDGR: 稳定的基于扩散的深度生成回放用于类别增量目标检测
本研究提出了一种名为稳定扩散深度生成重放(SDDGR)的新方法,它利用基于扩散的生成模型和预训练的文本到扩散网络生成逼真多样的合成图像,通过迭代优化策略生成高质量包含旧类别的图像,并采用 L2 知识蒸馏技术提高合成图像中先前知识的保存,并在 - 增强一致性与减轻偏见:一种用于增量学习的数据回放方法
提出了一种通过量化数据一致性并引入新的损失函数来改进数据回放及类别增量学习的方法。在实验证明比以前的方法有更好的性能。
- eCIL-MU:基于嵌入的增量类学习和机器遗忘
本研究提出了一种基于嵌入技术的非破坏性 eCIL-MU 框架,用于在动态环境中实现类别增量学习和类别级机器遗忘。实验证明该框架能够实现遗忘效果,并具有加速效果(最高达到 278 倍)。
- 递增物体检测的分类缓冲区管理:一种有效的缓冲区训练策略
本文介绍了一种有效的缓冲训练策略 (eBTS),用于在物体检测中创建经过优化的回放缓冲区,实验证明我们的 eBTS 达到了与现有的回放方案相比的最先进性能。
- 基于密度分布的在线持续学习挑战解决学习框架
通过引入一种基于密度分布的学习框架,本文解决了在线连续学习中的挑战,特别是类增量学习。该框架通过实现卓越的平均准确性和时间空间效率,填补了连续学习与传统机器学习之间的性能差距。
- 结合过去、现在和将来:一种用于分类增量学习的自监督方法
提出了一种基于自监督学习的类增量学习框架 CPPF,具有原型聚类模块、嵌入空间保留模块和多教师蒸馏模块,该方法在 CIFAR100 和 ImageNet100 数据集上实验证明了其对自监督类增量学习性能的提升。
- 基于似然比的任务预测的类增量学习
在连续学习中,对于每个测试样本预测任务标识符是一个具有挑战性的问题。本文提出了一种新的方法 TPLR(基于似然比的任务标识符预测),该方法利用了连续学习中的额外信息,显著优于强对比模型。
- 基于信息子集选择的高效课程化连续学习方法在遥感场景分类中的应用
我们在这篇论文中解决了光学遥感图像的土地覆盖分类领域中的逐类增量学习(CIL)问题。我们提出了一个新颖的 CIL 框架,通过受到重播存储器方法的启发并解决了其中的两个缺点。实验证明,我们的方法在 CIL 性能上表现出明显的改进。
- 旋转增强蒸馏的免样例类增量学习与详细分析
本研究关注在没有保存旧类样本(无样例)的无样例设置下,通过只对新类进行监督,实现在深层特征学习中平衡可塑性和稳定性。通过对不同方法的详细对比及指标衡量,提出了一种简单的无样例设置下的 Class incremental learning 方 - GRASP:一种高效的在线持续学习复习策略
持续学习中对样本的选择策略在深度神经网络中起到关键作用,本研究提出了一种名为 GRASP 的样本选择策略,通过选择最具代表性的样本来更新神经网络,不仅在图像分类任务上表现优秀,还在文本分类任务中取得了良好效果。
- ICCV掩盖式自编码器是高效的类增量学习器
我们提出了使用 Masked Autoencoders (MAEs) 作为高效的学习器来解决 Class Incremental Learning (CIL) 的问题,并通过基于图像级和嵌入级融合的双边 MAE 框架获得更好质量的重建图像和 - ICCVSATHUR: 用于广义类增量学习的自我增强任务幻象统一表示
本研究介绍了自增强任务幻觉统一表示(SATHUR),通过重新初始化 Grow When Required(GWR)网络与当前特征提取器对齐,以增强 GWR 的分类性能,从而显著优于其他 CIFAR-100 和 CORe50 数据集上的最先进