Nov, 2023

关于联邦学习中隐私、公平性和效用之间的权衡

PDF
TL;DR为了提高联邦学习系统的公平性，本研究使用了公平度量指标构建本地公平模型，并提出了一种隐私保护的公平联邦学习方法。实验结果表明，隐私保护提高了公平模型的准确性，但在隐私、公平和实用性之间存在权衡。
federated learningfairnessprivacy-protectiondemographic parityequalized odds
发现论文，激发创造
  • 公平差分隐私联邦学习框架

    通过应用裁剪技巧与高斯机制来解决不包含验证数据的公平差分私有联邦学习框架的可能出现的偏见更新问题，同时审查了隐私和公平性在联邦学习中的相关工作，并强调了 MITIGATE 偏见和确保隐私的最新进展和方法。

    May, 2023

  • 联邦学习中的隐私和公平：从权衡的角度出发

    本文对联邦学习中的隐私和公平问题进行了文献综述，重点阐述了联邦环境下面临的独特挑战和解决方案，系统梳理了隐私和公平之间的不同交互作用，并提出了公平和隐私联邦学习的新研究方向。

    Jun, 2023

  • 个性化联邦学习推进：群体隐私，公平与更多

    本文介绍了在联邦学习框架中处理个性化、隐私保证和公平性三者之间的相互关系，通过引入 $d$-privacy 方法，提供个性化模型训练、形式上的隐私保证和显著优于传统联邦学习模型的群体公平性。

    Sep, 2023

  • 多维公平联邦学习

    我们提出了一种名为 mFairFL 的方法，通过使用差分乘数构建优化目标，同时实现组公平和客户公平，以解决在隐私不受损失的情况下训练公平的 FL 模型的问题。理论分析证明 mFairFL 有助于模型的公平性，并且基于三个基准数据集的实验评估显示 mFairFL 相对于七个最先进的基准模型具有显著优势。

    Dec, 2023

  • 走向多目标统计公平联邦学习

    本文针对联邦学习领域中的数据隐私和公平性问题，提出了一种能够满足不同统计公平度量的新方法，并进行实验验证其在满足多个目标方面的有效性和鲁棒性。

    Jan, 2022

  • GLOCALFAIR：联合改善联邦学习中的全局和局部群体公平性

    提出了 GLOCALFAIR，一种可同时改善联合学习中全局和本地群体公平性的客户端 - 服务器协同设计公平性框架，无需敏感统计数据即可实现全局模型公平性，并保持较高的效用和客户公平性。

    Jan, 2024

  • 一个可扩展的基于区块链的联邦学习系统中的公正性、完整性和隐私保护

    本论文旨在探究如何采用区块链技术，本地差分隐私和零知识证明等前沿技术，构建一个公平、透明、保护隐私的分散式机器学习系统，以有效解决实践中的公正、完整性和隐私问题。

    Nov, 2021

  • FedFair^3: 在联邦学习中实现三重公平

    该研究论文提出了一种在联邦学习中实现三重公平性的公平客户选择方法，通过公平的客户选择策略、公平的参与轮数和客户间的公平准确度分布，与现有技术基准相比，在 IID 数据上减少了 18.15% 的准确率差异，在非 IID 数据上减少了 54.78% 的准确率差异，并且平均训练时间减少了 24.36%。

    Jan, 2024

  • 在联邦学习中实现本地模型和全局模型的公平性

    通过引入 EquiFL，增强联邦学习环境中的本地和全局公平性，同时确保准确性和公平性之间的良好平衡，并通过协调机制防止偏见在合作阶段间的传播。在多个基准测试中进行了广泛的实验证明 EquiFL 不仅在每个客户端实现了准确性和公平性之间更好的平衡，还实现了全局公平性，并确保了客户端之间的性能公平分布。此外，我们还展示了 EquiFL 在一个真实的分布式医疗应用数据集中的好处，特别是在预测各个医院地点对患者治疗效果方面。

    Jun, 2024

  • 联邦学习中的公平攻击

    通过控制数据隐私并引入一种新类型的攻击，本论文讨论了在分布式训练中实现公平性的重要性以及对公平性进行攻击的方式。

    Nov, 2023