医学影像中的持续学习
该研究提出了一种利用权重融合方法的持续学习新方法，通过在每个新任务之后插值旧模型和新模型的权重，将两个模型合并，以便探索新概念到来后出现的局部最小值。实验结果表明，提出的权重融合方法明显改善了最先进的经验重放算法的性能。
Apr, 2024
在医学影像分析中，深度学习算法的快速发展使得医学影像分析取得了显著的进展，但是在推理数据集与模型训练时所见数据略有不同的情况下，模型的性能会受到很大影响。因此，需要采用连续学习技术来处理新类别、新任务和非稳态环境中的数据变化。本系统综述论文对连续学习技术在医学影像分析中的应用进行了全面的概述，包括灾难性遗忘、数据漂移、稳定性和可塑性要求等方面的研究，同时对连续学习方案、技术、评价方案和指标等关键组成部分进行了深入讨论。
Dec, 2023
通过观察对神经网络输出的对比损失的冗余引发能力，我们的方法利用新任务的前几个样本来识别和保留对神经网络传递能力最有贡献的参数，从而使网络的其余部分能够学习新特征，并在诸如 CIFAR10 和 TinyImagenet 等基准计算机视觉数据集上证明了在任务增量、类别增量和领域增量持续学习场景中的最先进性能。
Nov, 2023
通过重新参数化神经网络中的 Fisher 信息矩阵，结合 Elastic Weight Consolidation 技术，实现解决序列任务学习中的灾难性遗忘问题，并在 MNIST、CIFAR-100、CUB-200 和 Stanford-40 数据集上进行实验证明，我们的方法明显改善了标准 Elastic Weight Consolidation 的结果，在不遗忘的连续任务学习中达到了同等竞争水平。
Feb, 2018
本文研究了基于任务增量分类的持续学习方法，提出了一种新的框架来确定持续学习者的稳定性与可塑性的权衡， 并通过三个基准测试以及综合实验比较了 11 种持续学习方法和 4 种基线的方法的强弱和影响。
Sep, 2019
本文提出了一种正则化连续学习的新视角，将其定义为每个任务损失函数的二阶 Taylor 近似，得到了一个可实例化的统一框架，并研究了优化和泛化特性，理论和实验结果表明二阶 Hessian 矩阵的精确近似非常重要。
Jun, 2020
在医学图像分割领域的持续学习任务中，我们提出了一种使用数据特定的专家组（MoE）结构解决新任务或类别的问题的网络，以确保网络参数对先前任务的影响最小化，并通过引入低秩策略显著降低引入附加结构所带来的内存开销。在多个数据集上进行的广泛实验证明了我们的模型优于其他所有方法。
Jun, 2024
通过创建每个任务的任务特定调制参数来实现，我们的方法试图在确保不遗忘的同时，最大化新任务的性能。通过全面的实验评估，我们的模型在获取和保留对其他多任务模型而言困难的新任务方面表现出卓越的性能，从而强调了我们的方法在防止灾难性遗忘并适应新任务的获取方面的功效。
Nov, 2023
本文提出了一种用于连续器官和肿瘤分割任务的创新结构，包括一系列轻量级的、类特定的输出头，以及将对比语言 - 图像预训练嵌入到器官特定的头中。实验结果表明该方法在学习过程中提高了基线神经网络对新引入和先前学习类别的分割性能。
Jun, 2023