重新定义贡献：基于 Shapley 值的联邦学习

IJCAIJun, 2024

重新定义贡献：基于 Shapley 值的联邦学习

Redefining Contributions: Shapley-Driven Federated Learning

Nurbek Tastan, Samar Fares, Toluwani Aremu, Samuel Horvath, Karthik Nandakumar

TL;DR该研究提出了一种名为 ShapFed 的新型参与者贡献评估方法，利用合作博弈论中的 Shapley 值来对参与者的贡献进行精细化评估，并基于此提出了一种名为 ShapFed-WA 的加权聚合方法，尤其在类别不平衡的场景中表现优于传统的联邦平均方法，通过根据参与者的贡献个性化更新模型，进一步提高合作公平性。在 CIFAR-10、Chest X-Ray 和 Fed-ISIC2019 数据集上的实验证明了该方法在提高联邦学习系统的效用、效率和公平性方面的有效性。

Abstract

federated learning (FL) has emerged as a pivotal approach in machine learning, enabling multiple participants to collaboratively train a global model without sharing raw data. While FL finds applications in various domains such as healthcare and finance, it is challenging to ensure glo

federated learning contribution assessment shapfed weighted aggregation collaborative fairness

发现论文，激发创造

评估联邦学习中客户贡献

我们提出了一种名为 FLContrib 的历史感知博弈理论框架，用于在每个联邦学习训练时期评估客户的贡献，通过利用联邦学习过程和 Shapley 值的线性性质，生成了客户贡献的历史时间轴。此外，我们还提出了一种调度过程，在有限的计算预算下考虑双边公平标准，仅在一部分训练时期进行昂贵的 Shapley 值计算，以平衡准确性和效率。通过将 FLContrib 应用于检测在 FL 训练中操纵数据的不诚实客户，我们展示了历史感知客户贡献的好处。

Mar, 2024

通过随机化聚合缓解联邦学习的贡献分配不稳定性

通过对基于梯度的模型重建技术与 Shapley 值的贡献计算进行稳定性分析，本研究提出了 FedRandom 作为一种更公平分布的可行聚合技术，它不仅可以提高贡献评估的准确性，而且能够增强联邦学习系统的整体公平性和稳定性，尤其适用于参与者数量有限的联邦网络。

May, 2024

GTG-Shapley：联邦学习中高效准确的参与者贡献评估

该论文提出一种基于 Shapley Values 的计算方式 --GTG-Shapley，通过渐进方式重构 FL 模型来计算 Shapley 值，结合 Monte Carlo 采样和截断方案，可以在不暴露私人数据的前提下评估参与者对最终 FL 模型的贡献，尤其在非独立同分布的情况下增加计算效率。

Sep, 2021

测量联邦学习中参与者的贡献

本文研究了在保护数据隐私的前提下，让多方参与建立模型的联邦机器学习生态系统中，如何公平计算每个参与方的贡献值。通过使用删除方法和 Shapley 值等简单而有力的技术计算组合实例影响和组合特征重要性，我们为研究模型贡献和信用分配在联邦机器学习中打开了大门。

Sep, 2019

联邦学习中的贡献评估：现有方法的考察

联邦学习 (Federated Learning) 中的 Contribution Evaluation (CE) 问题对于计算每个客户端的公平价值的评估至关重要。本研究回顾了当前 CE 方法的数学框架，并对一些最有前景的方法进行了基准测试，展示它们与现有方法的差异。设计一个公平高效的 CE 方法对于联邦学习的主流应用至关重要。

Nov, 2023

联邦学习数据价值的原则方法

本文提出了一种适用于联邦学习的 Shapley 值变体，称为联邦 Shapley 值，它可以计算每个数据源的贡献，能够反映数据源的实际效用并有潜力提高系统的鲁棒性，安全性和效率。

Sep, 2020

通过原型表示评估异构参与者在联邦学习中的贡献

本文从表示的全新视角探索联邦学习中的贡献评估，并提出了一种用于异构参与者的贡献评估的新方法，引入了一种新的指标 “类别贡献动量”，从个体、相对和整体视角构建和应用该指标，在各种情境下展现了方法的优越性。

Jul, 2024

面向参与者的联邦学习中的协作：博弈论视角

本论文提出了一个新的分析框架来激励参与者中心的联邦学习，分别提出了两种贡献无关的 FL（COFL）和贡献感知 FL（CAFL）游戏模型，讨论了 Nash 平衡的独特性和存在性并设计了有效的算法来达到平衡解决方案。大量的性能评估表明，COFL 中存在着 free-riding 现象，而采用具有优化的最小阈值的 CAFL 模型可以大大缓解此现象。

Jul, 2022

一种面向个性化联邦学习的联盟形成博弈方法

本文使用合作博弈理论中的 Shapley 值，提出了一种新的个性化联邦学习算法 pFedSV，它可以识别每个客户端的最佳合作者并基于 Shapley 值进行个性化模型聚合，实验结果表明相比于现有技术，该算法能够显著提高客户端的个性化准确度。

Feb, 2022

利用集成学习实现医疗联邦学习中更有效的数据价值评估

提出一种称为 SaFE 的解决方案，该方案使用集成方法来计算 Shapley 值以寻找医疗影像中参与多机构协作学习的各个参与者的贡献，值得注意的是，SaFE 的计算成本比当前方法更低，并且能够更好地评估不同参与者的贡献。

Sep, 2022