揭秘联邦学习中的本地和全局公平权衡：使用部分信息分解

ICMLJul, 2023

揭秘联邦学习中的本地和全局公平权衡：使用部分信息分解

Demystifying Local and Global Fairness Trade-offs in Federated Learning Using Partial Information Decomposition

Faisal Hamman, Sanghamitra Dutta

TL;DR用信息论的视角探讨了联邦学习中与敏感属性（如性别、种族等）相关的公平性权衡问题，通过部分信息分解（PID）的方法确定了三种不公平性的来源，即独特差异、冗余差异和掩盖差异，并在实验证明了这三种差异如何影响全局和本地的公平性，提供了更精细的不公平性来源认知以指导本地差异缓解技术的使用及其在实践中的收敛和效果。

Abstract

In this paper, we present an information-theoretic perspective to group fairness trade-offs in federated learning (FL) with respect to sensitive attributes, such as gender, race, etc. Existing works mostly focus

federated learning fairness trade-offs global fairness local fairness partial information decomposition

发现论文，激发创造

利用部分信息分解统一观点下的群体公平性权衡

这篇论文介绍了一种新颖的信息论视角，探讨了机器学习中著名的群体公平性概念之间的关系，即统计平衡、平等几率和预测平衡。通过利用信息论中称为部分信息分解（PID）的工作，我们准确阐明了这三个 (不) 公平性度量之间的精确关系，并确定了它们重叠和相互矛盾的细节区域，从而引发了潜在的权衡。我们还包括了数值模拟来补充我们的结果。

Jun, 2024

关于联邦学习中隐私、公平性和效用之间的权衡

为了提高联邦学习系统的公平性，本研究使用了公平度量指标构建本地公平模型，并提出了一种隐私保护的公平联邦学习方法。实验结果表明，隐私保护提高了公平模型的准确性，但在隐私、公平和实用性之间存在权衡。

Nov, 2023

GLOCALFAIR：联合改善联邦学习中的全局和局部群体公平性

提出了 GLOCALFAIR，一种可同时改善联合学习中全局和本地群体公平性的客户端 - 服务器协同设计公平性框架，无需敏感统计数据即可实现全局模型公平性，并保持较高的效用和客户公平性。

Jan, 2024

解决联邦学习中的算法差异和性能不一致

本文提出了一种基于多目标优化的联邦学习框架，通过优化一个最大替代函数将不同本地客户端（数据源）的算法公平性和一致性纳入考虑，以实现最优解的 Pareto 优化来实现公平性和一致性。

Aug, 2021

多维公平联邦学习

我们提出了一种名为 mFairFL 的方法，通过使用差分乘数构建优化目标，同时实现组公平和客户公平，以解决在隐私不受损失的情况下训练公平的 FL 模型的问题。理论分析证明 mFairFL 有助于模型的公平性，并且基于三个基准数据集的实验评估显示 mFairFL 相对于七个最先进的基准模型具有显著优势。

Dec, 2023

使用增广拉格朗日方法处理联邦学习中的群体公平性

该研究提出了一种新的联邦学习算法，专门解决群体公平性问题，该算法在统计异质性和不同数量的客户端存在的情况下，既可以定量又可以定性地改善公平性，并几乎不影响准确度，并且与本地差分隐私兼容，通信成本微不足道。这一算法对于提高敏感应用领域（如医疗保健或刑法司法）的联邦学习系统的公平性和有效性具有重要的潜力。

Jul, 2023

公平差分隐私联邦学习框架

通过应用裁剪技巧与高斯机制来解决不包含验证数据的公平差分私有联邦学习框架的可能出现的偏见更新问题，同时审查了隐私和公平性在联邦学习中的相关工作，并强调了 MITIGATE 偏见和确保隐私的最新进展和方法。

May, 2023

缓解联邦学习中的群体偏差：超越本地公平性

本研究旨在探讨有关机器学习模型中特定人群或群体受到偏待的问题以及解决方法，其中我们特别研究了本地模型与全局模型之间公平性的关系，并提出了一种基于惩罚性经验损失最小化的全局公平训练算法，实验证明我们的方法在保持高准确率的同时，相比本地公平训练方法能够更有效地提升公平性。

May, 2023

走向多目标统计公平联邦学习

本文针对联邦学习领域中的数据隐私和公平性问题，提出了一种能够满足不同统计公平度量的新方法，并进行实验验证其在满足多个目标方面的有效性和鲁棒性。

Jan, 2022

在联邦学习中实现本地模型和全局模型的公平性

通过引入 EquiFL，增强联邦学习环境中的本地和全局公平性，同时确保准确性和公平性之间的良好平衡，并通过协调机制防止偏见在合作阶段间的传播。在多个基准测试中进行了广泛的实验证明 EquiFL 不仅在每个客户端实现了准确性和公平性之间更好的平衡，还实现了全局公平性，并确保了客户端之间的性能公平分布。此外，我们还展示了 EquiFL 在一个真实的分布式医疗应用数据集中的好处，特别是在预测各个医院地点对患者治疗效果方面。

Jun, 2024