May, 2024

基于 Maverick-Aware Shapley 估值的联邦学习中的客户选择

PDF
TL;DR使用 Federated Learning 进行模型训练时，处理数据异质性和 Mavericks 等罕见数据的挑战很重要。本文提出了一种考虑 Mavericks 的 Shapley 估值方法，并利用 Maverick-aware SV-based contribution score 在每轮中智能选择对模型最有贡献的客户端，从而实现更好的模型性能和公平的 Shapley Rewards 分配。
federated learningdata heterogeneitymavericksshapley valuationfedms
发现论文，激发创造
  • 联邦学习数据价值的原则方法

    本文提出了一种适用于联邦学习的 Shapley 值变体，称为联邦 Shapley 值，它可以计算每个数据源的贡献，能够反映数据源的实际效用并有潜力提高系统的鲁棒性，安全性和效率。

    Sep, 2020

  • 为联邦学习选择公平感知的客户

    通过 Lyapunov 优化的公平感知联邦用户选择（FairFedCS）方法可以在联邦学习中动态调整联邦用户的选择概率，根据联邦用户的声誉、参与联邦任务的次数和对最终模型性能的贡献，共同考虑性能和公平性。在真实的多媒体数据集上进行的大量实验表明，FairFedCS 平均实现了 19.6% 更高的公平性和 0.73% 更高的测试准确性，超过了最佳性能的现有方法。

    Jul, 2023

  • 贪心 Shapley 客户选择用于通信高效的联邦学习

    发展了一种被称为 GreedyFed 的具有偏见的客户选择策略，它能够在固定的通信轮次内，在数据分布、系统限制和隐私要求的高度异质性条件下，实现快速而稳定的收敛，并获得高准确性。

    Dec, 2023

  • 评估联邦学习中客户贡献

    我们提出了一种名为 FLContrib 的历史感知博弈理论框架，用于在每个联邦学习训练时期评估客户的贡献，通过利用联邦学习过程和 Shapley 值的线性性质，生成了客户贡献的历史时间轴。此外，我们还提出了一种调度过程，在有限的计算预算下考虑双边公平标准，仅在一部分训练时期进行昂贵的 Shapley 值计算，以平衡准确性和效率。通过将 FLContrib 应用于检测在 FL 训练中操纵数据的不诚实客户，我们展示了历史感知客户贡献的好处。

    Mar, 2024

  • 梯度的竞赛：在联邦学习中缓解非相关客户端

    本文介绍一种利用 Shapley 值及合作博弈理论解决联邦学习中选择相关客户的算法，并提出了基于 Shapley 值的 Federated Averaging 算法 (S-FedAvg)，该算法可以使服务器以高概率选择相关客户，实验结果表明在监督的联邦学习设置下，S-FedAvg 的性能优于基准线。

    Oct, 2021

  • 联邦学习中的数据估值与检测

    使用隐私保护方法进行数据估值的联邦学习研究，借助 Wasserstein 距离提供透明数据评估和有效计算 Wasserstein barycenter 以减少对验证数据的依赖，并通过广泛的实证实验和理论分析展示了该估值指标的研究前景。

    Nov, 2023

  • 一种面向个性化联邦学习的联盟形成博弈方法

    本文使用合作博弈理论中的 Shapley 值，提出了一种新的个性化联邦学习算法 pFedSV，它可以识别每个客户端的最佳合作者并基于 Shapley 值进行个性化模型聚合，实验结果表明相比于现有技术，该算法能够显著提高客户端的个性化准确度。

    Feb, 2022

  • 利用集成学习实现医疗联邦学习中更有效的数据价值评估

    提出一种称为 SaFE 的解决方案，该方案使用集成方法来计算 Shapley 值以寻找医疗影像中参与多机构协作学习的各个参与者的贡献，值得注意的是，SaFE 的计算成本比当前方法更低，并且能够更好地评估不同参与者的贡献。

    Sep, 2022

  • 重新定义贡献：基于 Shapley 值的联邦学习

    该研究提出了一种名为 ShapFed 的新型参与者贡献评估方法，利用合作博弈论中的 Shapley 值来对参与者的贡献进行精细化评估，并基于此提出了一种名为 ShapFed-WA 的加权聚合方法，尤其在类别不平衡的场景中表现优于传统的联邦平均方法，通过根据参与者的贡献个性化更新模型，进一步提高合作公平性。在 CIFAR-10、Chest X-Ray 和 Fed-ISIC2019 数据集上的实验证明了该方法在提高联邦学习系统的效用、效率和公平性方面的有效性。

    Jun, 2024

  • 联邦学习中的异质性好还是坏：FedVal

    本论文提出了一种名为 FedVal 的新方法，该方法基于服务器端验证方法，使用创新的评分函数来评估客户端更新，并确定本地训练模型之间的最佳聚合平衡，从而提高鲁棒性和公平性，同时维护差分隐私的系统能力。在 CIFAR-10，FEMNIST 和 PUMS ACSIncome 数据集上的广泛实验证明了我们的方法的有效性，实现了最先进的性能。

    Jun, 2023