Mar, 2024

DiffClass: 基于扩散的类增量学习

PDF
TL;DR我们提出了一种新的无样本增量学习方法，通过采用多分布匹配扩散模型来统一训练数据的质量，弥合不同域之间的差距，并通过选择性合成图像增强来扩展训练数据的分布，从而增强模型的可塑性和最终组件的性能，在增量训练期间提升模型的稳定性，实验证明这种方法优于之前的无样本增量学习方法并达到了最先进的性能。
class incremental learningcatastrophic forgettingexemplar-free cilmulti-distribution matchingmulti-domain adaptation
发现论文，激发创造
  • 图像分类的内存高效类增量学习

    本研究针对类增量学习时可能出现的 “灾难性遗忘” 问题，提出了一种记忆资源高效利用的样本保存方案，并结合一种主副样本协作学习方案，以缓解样本来源、质量不同带来的问题。实验结果表明该方案在类增量学习中具有较好的性能表现。

    Aug, 2020

  • DA-CIL: 领域自适应，增量式的三维物体检测

    本文提出了一种基于领域自适应的增量式学习方法，即 DA-CIL，通过多个领域的数据增强和知识蒸馏来提高在不同领域下的深度学习三维物体检测的准确性和泛化性能。实验证明，DA-CIL 在领域自适应增量学习场景下具有较好的性能。

    Dec, 2022

  • 旋转增强蒸馏的免样例类增量学习与详细分析

    本研究关注在没有保存旧类样本（无样例）的无样例设置下，通过只对新类进行监督，实现在深层特征学习中平衡可塑性和稳定性。通过对不同方法的详细对比及指标衡量，提出了一种简单的无样例设置下的 Class incremental learning 方法，即 Rotation Augmented Distillation (RAD)，其表现接近顶级水平。此外，在更具挑战性的无样例设置下，进行了更多的实证和与现有方法的比较。

    Aug, 2023

  • 面向非样本半监督类增量学习

    创新性地提出了一种非示例的半监督类增量学习框架，通过对比学习和半监督的增量原型分类器，使模型能够逐步从部分标记的新数据中学习，同时保持旧类别的知识。

    Mar, 2024

  • 无范例的类渐进学习初始训练策略分析

    类渐进学习是从数据流中构建分类模型的目标。本文通过统计分析框架量化各个因素对增量性能的相对贡献，发现初始训练策略是影响平均增量准确性的主要因素，而 CIL 算法的选择对防止遗忘更为重要。基于此分析，我们提出了选择相应初始训练策略的实际建议，以促进增量学习的实际应用部署。

    Aug, 2023

  • 类增量领域自适应

    该研究提出了一种实用的域自适应范式 —— 增量类别域自适应（Class-Incremental Domain Adaptation，CIDA），并且根据理论和实证观察，提出了一种基于样板网络的有效方法，使得在域偏移的情况下可以对目标样本进行分类，并且可以对共享的和新的目标类进行分类，其性能优于 CIDA 范式中的 DA 和 CI 方法。

    Aug, 2020

  • 继承与蒸馏，对比进化：探索无样本记忆的类别增量语义分割

    本文提出了一种新的方法 Inherit with Distillation and Evolve with Contrast (IDEC)，它通过 Dense Knowledge Distillation on all Aspects (DADA) 和 Asymmetric Region-wise Contrastive Learning (ARCL) 模块解决了类增量语义分割中遇到的灾难性遗忘问题和语义漂移问题，并在多个 CISS 任务中展现出卓越的性能。

    Sep, 2023

  • 跨领域疾病分类的小样本增量学习

    本篇研究旨在解决跨领域少样本增量学习问题，提出了一种跨域增强约束和跨域数据增强方法，并在 MedMNIST 数据集上进行实验，发现相较于其他类似方法，该方法的分类性能更好。

    Apr, 2023

  • 多变量原型表示的领域泛化增量学习

    研究了深度学习模型在使用新类别样本进行微调时面临的灾难性遗忘问题，特别关注训练和测试数据之间的领域转变。设计了一种能够记忆旧类别、适应新类别并能够可靠地对来自未见领域的对象进行分类的 DGCIL 方法，通过使用知识蒸馏和估计旧类别原型的漂移，结合多变量正态分布，不断适应模型特征的变化以更好地表示旧类别。经过多个基准测试实验证实了我们的说法。

    Sep, 2023

  • 零数据增量学习的类印象

    提出了一种新型的、无需实际数据的分类增量学习框架，采用数据合成的方式生成虚拟数据大大缓解了灾难性遗忘现象，采用余弦归一化交叉熵损失、边际损失和领域对比损失来优化模型的分类性能，将该方法与现有方法进行比较实验，并在诊断心脏超声图像方面取得了很好的效果。

    Jun, 2022