联邦学习中的知识编辑：视角、挑战和未来方向

Jun, 2023

联邦学习中的知识编辑：视角、挑战和未来方向

On Knowledge Editing in Federated Learning: Perspectives, Challenges, and Future Directions

Leijie Wu, Song Guo, Junxiao Wang, Zicong Hong, Jie Zhang...

TL;DR这篇文章是一篇关于联邦学习中知识编辑的综述性论文，其中介绍了一个被称为 Federated Editable Learning 的整合范式，并提供了现有方法的综合概述，评估了它们在提出的范式内的位置和它们面临的挑战，并探索未来研究的潜在途径和未解决问题。

Abstract

As federated learning (FL) has gained increasing attention, it has become widely acknowledged that straightforwardly applying stochastic gradient descent (SGD) on the overall framework when learning over a sequence of tasks results in the phenomenon known as ``→

federated learning catastrophic forgetting selective amnesia knowledge editing federated editable learning

发现论文，激发创造

SoK：联邦反学习的挑战与机遇

这篇论文从事一项关于联邦消除学习（federated unlearning）的研究，通过对已发表的联邦学习消除（FL unlearning）相关论文的分类和分析，探讨了联邦学习消除领域的研究趋势和挑战，比较了现有联邦学习消除方法的影响消除和性能恢复能力，以及他们的假设和局限性。该研究为未来联邦学习消除的研究提供了洞见和建议。

Mar, 2024

异构联邦知识图谱嵌入的学习和遗忘

本文提出了一种新的 FL 框架 ——FedLU，用于异构的 KG 嵌入学习和遗忘，利用相互的知识蒸馏来处理数据异质性造成的局部优化与全局收敛之间的漂移，并提出一种基于认知神经科学的遗忘方法，结合了逆行干扰和被动衰减，通过重用知识蒸馏来从本地客户端中抹除特定的知识并传播到全局模型。实验结果表明 FedLU 在链接预测和知识遗忘方面都取得了优秀的结果。

Feb, 2023

具备新知识的联邦学习：基础、进展与未来

本文系统性地定义了 FL 中新知识的主要来源，包括新特征、任务、模型和算法，详细分析讨论了如何将新知识纳入现有的 FL 系统，并研究了新知识到达的形式和时机对纳入过程的影响，讨论了 FL 中新知识的潜在未来方向。

Feb, 2024

使用知识蒸馏进行联邦遗忘

在联邦学习中，提出了一种新颖的联邦遗忘方法，通过从模型中减去历史累积更新来消除客户端的贡献，并利用知识蒸馏方法恢复模型的性能，而不使用来自客户端的任何数据。该方法不依赖于客户端的参与，不对神经网络的类型有任何限制，并引入后门攻击来评估遗忘效果。实验结果表明了本文方法的有效性和效率。

Jan, 2022

联邦取消学习：方法、设计指导和评估指标综述

本研究调查了联邦学习中取消学习的背景概念、经验证据和实际指南，提出了一种新的分类法对最先进的取消学习算法进行详细分析，并确定了该领域最有前景的研究方向和尚未解决的技术挑战。

Jan, 2024

分布式知识图谱通过扩散模型实现遗忘

本文提出了 FedDM, 一种面向联邦知识图的模型遗忘的新框架，通过扩散模型生成噪声数据以合理地减轻特定知识对 FL 模型的影响，同时保持其对剩余数据的整体性能，并通过对基准数据集进行实验评估证明 FedDM 在知识遗忘方面具有良好的效果。

Mar, 2024

回顾：联邦学习中的理解和减轻遗忘

研究探索了联邦学习中遗忘现象对算法收敛的影响，引入了度量遗忘程度的指标，并提出了一种动态蒸馏方法的联邦学习算法 Flashback，以提高模型聚合的效果和减少遗忘现象，实现更快的收敛速度和准确性。

Feb, 2024

联邦视觉任务中缓解灾难性遗忘的无数据方法

本文提出了一种面向联邦类增量学习的框架，利用生成模型从过去的分布中合成样本，以减轻深度学习模型在训练新数据时遗忘以前学到的信息的问题，同时解决了隐私和资源限制等联邦学习的独特复杂性，通过在多个数据集上进行广泛实验，相较于现有基准算法，我们展示了显著的改进。

Nov, 2023

联邦学习中的知识蒸馏：长期挑战和新解决方案综述

本文综述了基于知识蒸馏的联邦学习的现状、方法和挑战，并探讨了隐私保护、数据异构性、通信效率和个性化等相关问题。

Jun, 2024

不记忆，模仿历史：无序列记忆联邦类迭代学习

本文提出了一个基于泛化模型的联邦分类增量学习框架，可以在没有直接访问过去数据的情况下通过合成先前分布的样本，来减少来自各个用户的对策略的类别过程。

Jul, 2023