声誉机制即所需：联邦学习中的协作公平和对抗鲁棒性

ICMLNov, 2020

声誉机制即所需：联邦学习中的协作公平和对抗鲁棒性

A Reputation Mechanism Is All You Need: Collaborative Fairness and Adversarial Robustness in Federated Learning

Xinyi Xu, Lingjuan Lyu

TL;DR本文提出了一种新的稳健公平联邦学习（Robust and Fair Federated Learning，RFFL）框架，通过声誉机制实现协作公平和对抗鲁棒性，可在基准数据集上实现高公正性并对不同类型的对手非常鲁棒。

Abstract

federated learning (FL) is an emerging practical framework for effective and scalable machine learning among multiple participants, such as end users, organizations and companies. However, most existing FL or distributed learning frameworks have not well addressed two important issues

federated learning collaborative fairness adversarial robustness reputation mechanism benchmark datasets

发现论文，激发创造

联邦学习中的协作公平性

研究分布式和联邦学习的合作公平性问题，提出了一种新的协作公平联邦学习框架，利用声誉来强制不同参与者收敛于不同模型，从而在不损害预测性能的情况下实现公平。

Aug, 2020

强化学习作为鲁棒和公平联邦学习的催化剂：解读客户贡献的动态

提出了一种新的强化联邦学习（RFL）框架，通过深度强化学习在聚合过程中自适应优化客户贡献，提高模型对恶意客户的鲁棒性和参与者之间的公平性，在非独立分布的情况下实现鲁棒性和公平性，并通过验证集性能引导的奖励机制获得了可靠性和公平性的可比较水平。

Feb, 2024

公平差分隐私联邦学习框架

通过应用裁剪技巧与高斯机制来解决不包含验证数据的公平差分私有联邦学习框架的可能出现的偏见更新问题，同时审查了隐私和公平性在联邦学习中的相关工作，并强调了 MITIGATE 偏见和确保隐私的最新进展和方法。

May, 2023

多维公平联邦学习

我们提出了一种名为 mFairFL 的方法，通过使用差分乘数构建优化目标，同时实现组公平和客户公平，以解决在隐私不受损失的情况下训练公平的 FL 模型的问题。理论分析证明 mFairFL 有助于模型的公平性，并且基于三个基准数据集的实验评估显示 mFairFL 相对于七个最先进的基准模型具有显著优势。

Dec, 2023

通过随机化聚合缓解联邦学习的贡献分配不稳定性

通过对基于梯度的模型重建技术与 Shapley 值的贡献计算进行稳定性分析，本研究提出了 FedRandom 作为一种更公平分布的可行聚合技术，它不仅可以提高贡献评估的准确性，而且能够增强联邦学习系统的整体公平性和稳定性，尤其适用于参与者数量有限的联邦网络。

May, 2024

走向多目标统计公平联邦学习

本文针对联邦学习领域中的数据隐私和公平性问题，提出了一种能够满足不同统计公平度量的新方法，并进行实验验证其在满足多个目标方面的有效性和鲁棒性。

Jan, 2022

深入探讨联邦学习的对抗鲁棒性

本文研究联邦学习的对抗鲁棒性，通过各种攻击和对抗训练方法进行全面的鲁棒性评估，提出基于决策边界的联邦对抗训练算法 DBFAT，包括本地重新加权和全局正则化两个组件，实验证明在 IID 和非 IID 设置下，DBFAT 一直优于其他基准。

Feb, 2023

5G 网络安全联邦学习框架

本文提出了一种基于区块链的安全联邦学习框架，通过构建智能合约，自动执行防御策略，识别恶意攻击参与者，同时采用本地差分私有化技术，有效地防止中毒和成员推断攻击。

May, 2020

面向参与者的联邦学习中的协作：博弈论视角

本论文提出了一个新的分析框架来激励参与者中心的联邦学习，分别提出了两种贡献无关的 FL（COFL）和贡献感知 FL（CAFL）游戏模型，讨论了 Nash 平衡的独特性和存在性并设计了有效的算法来达到平衡解决方案。大量的性能评估表明，COFL 中存在着 free-riding 现象，而采用具有优化的最小阈值的 CAFL 模型可以大大缓解此现象。

Jul, 2022

受限用户可用性下的联邦学习

Federated Learning (FL) 是一种分散式机器学习框架，可以实现协作模型训练并保护数据隐私。本论文提出了一种名为 Random Access Model (RAM) 的通用用户选择机制，通过延伸 FL 问题的风险感知目标函数，使用 Conditional Value-at-Risk (CVaR) 方法，设计了一种与 RAM 无关的高效训练算法，实验证明在各种情景下与标准 FL 相比，该方法能够显著提高性能。

Sep, 2023