通过随机化聚合缓解联邦学习的贡献分配不稳定性

May, 2024

通过随机化聚合缓解联邦学习的贡献分配不稳定性

Mitigating federated learning contribution allocation instability through randomized aggregation

Arno Geimer, Beltran Fiz, Radu State

TL;DR通过对基于梯度的模型重建技术与 Shapley 值的贡献计算进行稳定性分析，本研究提出了 FedRandom 作为一种更公平分布的可行聚合技术，它不仅可以提高贡献评估的准确性，而且能够增强联邦学习系统的整体公平性和稳定性，尤其适用于参与者数量有限的联邦网络。

Abstract

federated learning (FL) is a novel collaborative machine learning framework designed to preserve privacy while enabling the creation of robust models. This paradigm addresses a growing need for data security by a

federated learning privacy contribution distribution shapley values fedrandom

发现论文，激发创造

重新定义贡献：基于 Shapley 值的联邦学习

该研究提出了一种名为 ShapFed 的新型参与者贡献评估方法，利用合作博弈论中的 Shapley 值来对参与者的贡献进行精细化评估，并基于此提出了一种名为 ShapFed-WA 的加权聚合方法，尤其在类别不平衡的场景中表现优于传统的联邦平均方法，通过根据参与者的贡献个性化更新模型，进一步提高合作公平性。在 CIFAR-10、Chest X-Ray 和 Fed-ISIC2019 数据集上的实验证明了该方法在提高联邦学习系统的效用、效率和公平性方面的有效性。

Jun, 2024

评估联邦学习中客户贡献

我们提出了一种名为 FLContrib 的历史感知博弈理论框架，用于在每个联邦学习训练时期评估客户的贡献，通过利用联邦学习过程和 Shapley 值的线性性质，生成了客户贡献的历史时间轴。此外，我们还提出了一种调度过程，在有限的计算预算下考虑双边公平标准，仅在一部分训练时期进行昂贵的 Shapley 值计算，以平衡准确性和效率。通过将 FLContrib 应用于检测在 FL 训练中操纵数据的不诚实客户，我们展示了历史感知客户贡献的好处。

Mar, 2024

强化学习作为鲁棒和公平联邦学习的催化剂：解读客户贡献的动态

提出了一种新的强化联邦学习（RFL）框架，通过深度强化学习在聚合过程中自适应优化客户贡献，提高模型对恶意客户的鲁棒性和参与者之间的公平性，在非独立分布的情况下实现鲁棒性和公平性，并通过验证集性能引导的奖励机制获得了可靠性和公平性的可比较水平。

Feb, 2024

联邦学习中的偏差缓解

本研究提出了三种预处理和处理方法以及实验验证，以减轻联邦学习中的偏见和数据异构性对模型性能、公平指标和偏见学习模式的影响，结果表明这些方法即使在当事方数据分布不均或只有 20% 的当事方采用这些方法时也是有效的。

Dec, 2020

声誉机制即所需：联邦学习中的协作公平和对抗鲁棒性

本文提出了一种新的稳健公平联邦学习（Robust and Fair Federated Learning，RFFL）框架，通过声誉机制实现协作公平和对抗鲁棒性，可在基准数据集上实现高公正性并对不同类型的对手非常鲁棒。

Nov, 2020

联邦学习能找到有益的朋友

该研究提出了一种新的算法，为参与联邦学习训练的客户分配自适应聚合权重，识别出最有利于特定学习目标的数据分布，实验证明通过该算法引导的合作在传统的联邦学习方法上取得了更好的表现，强调了客户选择的重要性。

Feb, 2024

多维公平联邦学习

我们提出了一种名为 mFairFL 的方法，通过使用差分乘数构建优化目标，同时实现组公平和客户公平，以解决在隐私不受损失的情况下训练公平的 FL 模型的问题。理论分析证明 mFairFL 有助于模型的公平性，并且基于三个基准数据集的实验评估显示 mFairFL 相对于七个最先进的基准模型具有显著优势。

Dec, 2023

公平差分隐私联邦学习框架

通过应用裁剪技巧与高斯机制来解决不包含验证数据的公平差分私有联邦学习框架的可能出现的偏见更新问题，同时审查了隐私和公平性在联邦学习中的相关工作，并强调了 MITIGATE 偏见和确保隐私的最新进展和方法。

May, 2023

加速半异步联邦学习

传统的联邦学习方法由于数据上传同步方式导致速度慢且不可靠，本论文提出了一种考虑不同更新贡献、适应数据延迟与异质性的异步联邦学习方法，有效提升了收敛速度。

Feb, 2024

联邦学习中的异质性好还是坏：FedVal

本论文提出了一种名为 FedVal 的新方法，该方法基于服务器端验证方法，使用创新的评分函数来评估客户端更新，并确定本地训练模型之间的最佳聚合平衡，从而提高鲁棒性和公平性，同时维护差分隐私的系统能力。在 CIFAR-10，FEMNIST 和 PUMS ACSIncome 数据集上的广泛实验证明了我们的方法的有效性，实现了最先进的性能。

Jun, 2023