一种面向个性化联邦学习的联盟形成博弈方法

Feb, 2022

一种面向个性化联邦学习的联盟形成博弈方法

A Coalition Formation Game Approach for Personalized Federated Learning

Leijie Wu, Song Guo, Yaohong Ding, Yufeng Zhan, Jie Zhang

TL;DR本文使用合作博弈理论中的 Shapley 值，提出了一种新的个性化联邦学习算法 pFedSV，它可以识别每个客户端的最佳合作者并基于 Shapley 值进行个性化模型聚合，实验结果表明相比于现有技术，该算法能够显著提高客户端的个性化准确度。

Abstract

Facing the challenge of statistical diversity in client local data distribution, personalized federated learning (PFL) has become a growing research hotspot. Although the state-of-the-art methods with model similarity-based pairwise collaboration have achieved promising performance, th

personalized federated learning shapley value coalition game theory model aggregation multiwise collaboration

发现论文，激发创造

联邦学习数据价值的原则方法

本文提出了一种适用于联邦学习的 Shapley 值变体，称为联邦 Shapley 值，它可以计算每个数据源的贡献，能够反映数据源的实际效用并有潜力提高系统的鲁棒性，安全性和效率。

Sep, 2020

大胆而谨慎：通过谨慎激进的合作释放个性化联邦学习的潜力

本文介绍了个性化联邦学习中客户端协作的新指南，允许客户端与其他客户端共享更多参数，从而改善模型性能。此外，我们还提出了一种名为 FedCAC 的新联邦学习方法，通过定量指标评估每个参数对非独立分布数据的敏感性，并根据该评估精选合作伙伴。实验结果表明，FedCAC 使客户端能够与其他客户端共享更多参数，在客户端数据分布多样的场景下取得了卓越的性能。

Sep, 2023

模型共享游戏：自愿参与下联邦学习的分析

本文介绍了在联邦学习中，面临着全局模型与本地模型的选择困境，运用博弈论的框架进行自然分析，提出了基于博弈论的联邦学习模型，探讨了均衡的选手分区问题，并分别分析了三种联邦模式的稳定分区。

Oct, 2020

针对统计异质性的个性化联邦学习

联邦学习的普及与人工智能应用中对数据隐私的关注日益增长。联邦学习促进了多方合作的模型学习，同时确保了数据保密性。然而，由于不同客户数据分布导致的统计异质性问题，会带来一些挑战，例如不足的个性化和收敛速度慢。为了解决上述问题，本文简要总结了个性化联邦学习领域的当前研究进展，概述了个性化联邦学习的概念，审视了相关技术，并强调了当前的努力。此外，本文还讨论了个性化联邦学习的潜在进一步研究和障碍。

Feb, 2024

重新定义贡献：基于 Shapley 值的联邦学习

该研究提出了一种名为 ShapFed 的新型参与者贡献评估方法，利用合作博弈论中的 Shapley 值来对参与者的贡献进行精细化评估，并基于此提出了一种名为 ShapFed-WA 的加权聚合方法，尤其在类别不平衡的场景中表现优于传统的联邦平均方法，通过根据参与者的贡献个性化更新模型，进一步提高合作公平性。在 CIFAR-10、Chest X-Ray 和 Fed-ISIC2019 数据集上的实验证明了该方法在提高联邦学习系统的效用、效率和公平性方面的有效性。

Jun, 2024

个性化联邦学习基于堆叠

使用堆叠泛化的新型个性化方法，在保护隐私的情况下，直接发送模型来训练元模型，并在水平、混合和垂直分区联邦中适用各种模型类型和隐私保护技术，从而创建更适合个体客户数据的多个模型，并通过多方面评估每位客户对联邦的贡献。

Apr, 2024

通过去中心化的部分模型训练实现更适合个性化的联邦学习

本文提出了一种名为 DFedAlt 的个性化联邦学习框架，采用分散的部分模型训练方法，取得了与目前最先进的基准模型相媲美或更好的状态。该算法通过依次更新共享和个性化参数，在点对点的方式构建局部个性化模型，同时采用局部 SAM（Sharpness Aware Minimization）优化器来更新共享参数，从而有效地解决了模型共享一致性不足和通信成本过高等问题。

May, 2023

面向参与者的联邦学习中的协作：博弈论视角

本论文提出了一个新的分析框架来激励参与者中心的联邦学习，分别提出了两种贡献无关的 FL（COFL）和贡献感知 FL（CAFL）游戏模型，讨论了 Nash 平衡的独特性和存在性并设计了有效的算法来达到平衡解决方案。大量的性能评估表明，COFL 中存在着 free-riding 现象，而采用具有优化的最小阈值的 CAFL 模型可以大大缓解此现象。

Jul, 2022

个性化联邦学习与图形

本文提出了一种基于图结构的结构化联邦学习框架（SFL），通过使用客户端之间的关系图形信息来加强 PFL 中的知识共享过程，并能够同时学习全局和个性化模型。SFL 可扩展到学习客户之间的隐藏关系，并证明了其在交通和图像基准数据集上的有效性。

Mar, 2022

动态个性化联邦学习与激励

本文介绍了一种名为 DyPFL 的动态个性化联邦学习技术，将受训练意愿不同的客户纳入考虑，以提高收敛性能。结果表明，该算法可以在各种条件下优于替代个性化方法。

Aug, 2022