Mar, 2024

增量表示的非示例无关类别增量学习

HTML
PDF
TL;DR通过使用简单的递增表示(IR)框架，使用数据增强覆盖合适的特征空间并使用单一的L2空间维护损失来防止模型遗忘，我们提出了一个用于非示例类增量学习(efCIL)的方法，实现在合并新类知识的同时保留先前学到的信息，而无需存储任何旧类示例(样本)。在CIFAR100、TinyImageNet和ImageNetSubset数据集上广泛实验证明，我们提出的IR方法在性能上与其他方法相媲美，同时显著防止模型遗忘。
发现论文，激发创造
  • 通过特征适应实现内存高效的渐进式学习

    本文提出了一种增量学习的方法，该方法保留以前学习类别的训练图像的特征描述符，而不是图像本身，采用了比大多数现有方法更少的低维特征嵌入，通过多层感知器学习特征适应以实现分类器旧类别和新类别的联合优化，并取得了与保留图像相比更低的内存占用和最先进的分类准确率。

    Apr, 2020

  • 图像分类的内存高效类增量学习

    本研究针对类增量学习时可能出现的“灾难性遗忘”问题，提出了一种记忆资源高效利用的样本保存方案，并结合一种主副样本协作学习方案，以缓解样本来源、质量不同带来的问题。实验结果表明该方案在类增量学习中具有较好的性能表现。

    Aug, 2020

  • 持续进化的分类器用于小样本增量学习

    本文提出了一种基于分离学习策略的持续演化分类器（CEC）框架，该框架在每个增量会话中只更新分类器，从而避免了表示的知识遗忘问题，并采用伪增量学习方法优化图参数来构建持续的上下文信息传递网络，以解决少样本类别增量学习（FSCIL）的课程先决问题，实验结果表明该方法在 CIFAR100、miniImageNet和Caltech-USCD Birds-200-2011（CUB200）等基准数据集上表现出 remarkable 的优势。

    Apr, 2021

  • 受限的少样本类增量学习

    提出一种名为C-FSCIL的架构，利用超维嵌入，对每个新的类别进行异构存储策略，解决了记忆约束，并通过一些新的损失函数，进一步提高了类向量表示的质量。在CIFAR100、miniImageNet和Omniglot数据集上的实验结果表明，C-FSCIL在几乎不用牺牲精度的情况下实现了很高的压缩比。

    Mar, 2022

  • FeTrIL: 无模板增量学习特征翻译

    介绍一种将固定特征提取器和伪特征生成器相结合的方法，以改善稳定性和可塑性之间的平衡，并在三个具有挑战性的数据集上表现出优异的性能。

    Nov, 2022

  • 随机辅助类别增强和混合特征的非典型类别增量学习

    本文提出了名为RAMF的非示例类增量学习方法，该方法包含随机辅助类增强和混合特征。通过对输入应用三种不同的增强方法，生成增强样本和额外的类标签，从而扩展数据和标签空间，减少特征空间变化并提高模型泛化能力。通过混合新旧特征，旧知识可以保留而不增加计算复杂度，在三个测试中，结果显示该方法优于其他方法并可与高性能重放方法相媲美。

    Apr, 2023

  • 冷启动免示例增量学习的弹性特征整合

    Elastic Feature Consolidation (EFC)通过对于feature drift的正则化，以及使用高度相关的方向和高斯原型来更新重要方向的特征漂移，成功解决了Exemplar-Free Class Incremental Learning (EFCIL)在Cold Start情景下的挑战，并在学习新任务时保持了模型的可塑性，明显优于最先进方法。

    Feb, 2024

  • FeTrIL++：基于山峰爬升的无样本增量学习的特征翻译

    FeTrIL框架的研究扩展至新颖的实验领域，通过对多个具有挑战性的数据集和增量设置进行各种过采样技术和动态优化策略的实证研究来研究其有效性，特别是探索过采样对特征可用性的影响以及不同的优化方法对增量学习结果的影响。通过在CIFAR100、Tiny-ImageNet和ImageNet-Subset上进行全面实验，FeTrIL在新旧类别的准确性平衡方面表现出卓越性能，相对于其他十种方法，其优越性能得到了肯定。研究揭示了过采样和优化对于类别增量学习的微妙影响，为特征空间操作在课堂增量学习中的更精细理解做出了贡献。本文的扩展研究为更适应和高效的EFCIL方法铺平了道路，承诺在不需要样本的情况下显著改善处理灾难性遗忘。

    Mar, 2024

  • REAL：增强表征的无范例类增量学习

    提出了一种表示增强的分析学习方法，通过双流基础预训练和表示增强蒸馏过程来改善无示例约束下的渐进学习过程，解决现有基于分析学习的渐进学习中骨干网络冻结导致的表征不足问题。在不同数据集上的实验结果表明，该方法在无示例约束的渐进学习中优于现有方法，并且与基于回放的方法相比具有可比甚至更优越的性能。

    Mar, 2024

  • 高效的非样本类增量学习与回顾特征合成

    本研究针对深度神经网络在连续数据流学习中遭遇的灾难性遗忘问题，提出了一种新的非样本类增量学习方法。通过用合成的回顾特征替代类的原型，结合基于相似性特征补偿机制，显著提升了对旧类决策边界的保持能力。实验结果表明，该方法在多个数据集上实现了最先进的性能，并提高了非样本类增量学习的效率。

    Nov, 2024