联合增量语义分割

CVPRApr, 2023

Federated Incremental Semantic Segmentation

Jiahua Dong, Duzhen Zhang, Yang Cong, Wei Cong, Henghui Ding...

TL;DR本文提出一种遗忘平衡学习模型来同时解决移动端应用中存在的类别增量问题和全局训练中跨设备的遗忘问题，该模型利用自适应的类平衡伪标签生成和任务转换监控等技术对移动端内部和跨设备遗忘问题进行了有效地解决，实验结果表明该模型的性能有了较大的提升。

Abstract

federated learning-based semantic segmentation (FSS) has drawn widespread attention via decentralized training on local clients. However, most FSS models assume categories are fixed in advance, thus heavily under

federated learning semantic segmentation forgetting-balanced learning adaptive pseudo labeling inter-client forgetting

发现论文，激发创造

联邦式类增量学习

本文提出了一种全局 - 本地遗忘补偿（GLFC）模型，以解决联邦学习中的灾难性遗忘问题，包括本地遗忘和全局遗忘，并考虑到了隐私和类别不平衡等问题。

Mar, 2022

联邦视觉任务中缓解灾难性遗忘的无数据方法

本文提出了一种面向联邦类增量学习的框架，利用生成模型从过去的分布中合成样本，以减轻深度学习模型在训练新数据时遗忘以前学到的信息的问题，同时解决了隐私和资源限制等联邦学习的独特复杂性，通过在多个数据集上进行广泛实验，相较于现有基准算法，我们展示了显著的改进。

Nov, 2023

回顾：联邦学习中的理解和减轻遗忘

研究探索了联邦学习中遗忘现象对算法收敛的影响，引入了度量遗忘程度的指标，并提出了一种动态蒸馏方法的联邦学习算法 Flashback，以提高模型聚合的效果和减少遗忘现象，实现更快的收敛速度和准确性。

Feb, 2024

用层次生成原型来减少联邦式增量学习中的偏见

该研究提出了一种通过使用可学习的提示来约束增量和联邦偏差的方法，从而提高全局模型的预测准确性，并在平均准确率上提供了 7.9% 的增加。

Jun, 2024

解决联邦持续学习中的灾难性遗忘问题

为解决联合学习中的非独立同分布数据对连续增加的新类别分类任务所带来的 “灾难性遗忘” 问题，提出了一种名为 TARGET 的方法，其通过先前训练的全局模型在模型层次上为当前任务传输旧任务的知识并利用生成器产生合成数据来模拟全局分布，同时保护客户数据隐私，适用于数据敏感场景。

Mar, 2023

异构遗忘补偿用于类递增学习

Class-incremental learning can overcome catastrophic forgetting by addressing heterogeneous forgetting through representation and gradient aspects, as demonstrated by the effectiveness of the Heterogeneous Forgetting Compensation (HFC) model.

Aug, 2023

不记忆，模仿历史：无序列记忆联邦类迭代学习

本文提出了一个基于泛化模型的联邦分类增量学习框架，可以在没有直接访问过去数据的情况下通过合成先前分布的样本，来减少来自各个用户的对策略的类别过程。

Jul, 2023

联邦连续学习在线进行：利用不确定性进行模态无关的类增量学习

通过基于 Bregman 信息的估计器计算模型的方差，在预测不确定性的度量下，我们能够找到具有特定特征的样本，并通过对这些样本进行模型重训练来减少现实情境中的遗忘效应。

May, 2024

FedMeS: 基于本地内存的个性化联邦连续学习

个性化联合持续学习（PFCL）的问题是一个分布式客户端组，每个客户端都有一系列的本地任务和任意数据分布，通过一个中央服务器合作训练每个客户端的个性化模型，而这个模型需要在所有本地任务中表现良好。我们提出了一个名为联合记忆增强 FedMeS 的新型 PFCL 框架，以解决客户漂移和灾难性遗忘的挑战。在 FedMeS 中，每个客户端使用少量本地内存来存储来自先前任务的样本，并利用这些信息来同时：1) 校准训练过程中的梯度更新；2) 执行基于 KNN 的高斯推断以促进个性化。FedMeS 被设计为任务无关的，这意味着相同的推断过程适用于所有任务的样本，以取得好的性能。FedMeS 在理论上进行了分析并进行了实验评估。实验证明，在各种数据集、任务分布和客户端数量的组合中，它在平均准确性和遗忘率方面优于所有基线模型。

Apr, 2024

本地训练中减轻遗忘的联邦学习加速

本文提出了 FedReg 算法来解决分布式学习中的灾难性遗忘问题，通过在本地训练阶段使用生成的伪数据作为正则化器，以保护用户隐私并提高算法的收敛速度。

Mar, 2022