类增量高斯混合模型用于深度持续学习
通过在固定特征提取器上建立贝叶斯生成模型,该研究提出了一种解决深度学习中灾难性遗忘问题的方法,并在多个医学和自然图像分类任务上表现出优异的表现。
Apr, 2022
本文提出一种基于 EM 框架的领域感知的持续学习方法来应对在增量学习中类分布和域分布的变化问题,使用基于 von Mises-Fisher 混合模型的灵活类表示来捕获类内结构,采用内部平衡和交叉类数据的处理方式来设计双层平衡记忆,并结合蒸馏损失实现更好的稳定性和可塑性权衡。经过大量实验,表明该方法在三个基准数据集上均优于现有方法。
Apr, 2022
本文探讨了机器学习中的持续学习范式,并提出了一种基于特征提取的持续学习框架,通过特征和分类器在每个环境中的联合训练,设计了一种高效的梯度算法 DPGD,并证明了该算法能够在当前环境下表现良好,同时避免灾难性遗忘,但在特征是非线性的情况下,并不存在这样一种算法。
Mar, 2022
本研究提出了一个基于特征空间的生成分类器框架,以解决在线类增量学习中用于避免 softmax 分类器的数量型偏差问题,并通过广泛实验验证了该框架的有效性。
May, 2022
该论文提出了 Continual Neural Dirichlet Process Mixture (CN-DPM) 模型,并基于该模型提出了基于扩展方法的无任务连续学习方法,成功地将其应用于图像分类和图像生成等区别性和生成性任务的场景中。
Jan, 2020
本文介绍了一种连续学习的分类模型,可以防止神经网络在逐个学习任务时出现 catastrophic forgetting。作者通过扩展已有技术,并提出了一种新的变分下界方法,使得神经网络在连续学习中可以同时保持之前学到的知识。
Oct, 2018
本研究提出了一种高效的方法,用于处理 Domain Incremental Learning 场景下的 multi-label classification 问题,并能够在 Class Incremental Learning 场景下应用,实现了对 packaging industry 领域中的 Alarm Forecasting 问题的预测和较好的性能。
Aug, 2022
本研究提出一种用伪标签取代标准标签,在无监督模式下实现连续学习的方法,并提出了一种新的基准实验协议,以更好地评估模型在图像分类任务上的性能。结果表明,使用伪标签和现有的监督方法相结合可以在无监督场景下取得良好的成果。
Apr, 2021
本文介绍了一种基于 continual learning 方法的视觉搜索模型,它可以不断更新模型以处理增量式的图库集,同时不会影响模型的特征空间并且可以适用于新的图像类别。
May, 2022