Feb, 2023

通过多维个性化边缘模型实现更公平和有效的联邦学习

PDF
TL;DR本文提出了一种个性化的联邦学习（CFL）系统，通过特殊设计的全局模型为每个客户定制个性化模型，采用在线训练的模型搜索辅助器和新型聚合算法，解决 FL 在多个维度上的异质性问题。实验证明，CFL 在 FL 训练和边缘推断方面具有全栈优势，并显著改进了模型准确性（在非异构环境中高达 7.2％，在异构环境中高达 21.8％）、效率和公平性。
发现论文，激发创造
  • 公平联邦学习能否降低个性化需求？

    本论文通过策略提出了 Personalisation-aware Federated Learning (PaFL) 的模型，在语言任务中减少了 50% 的表现不佳客户端的数量，在图像任务中也避免了表现不佳客户端数量翻倍的情况，提高了边缘设备参与联邦学习的效率并有望在未来实验和理论分析上得到更多的应用。

    May, 2023

  • 多维公平联邦学习

    我们提出了一种名为 mFairFL 的方法，通过使用差分乘数构建优化目标，同时实现组公平和客户公平，以解决在隐私不受损失的情况下训练公平的 FL 模型的问题。理论分析证明 mFairFL 有助于模型的公平性，并且基于三个基准数据集的实验评估显示 mFairFL 相对于七个最先进的基准模型具有显著优势。

    Dec, 2023

  • 面向异构边缘 / 雾网络的协作联邦学习

    提出一种合作的边缘 / 雾设备机器学习范例 — 合作联邦学习 (CFL)，通过设备之间和设备与服务器之间的协作，实现模型 / 数据 / 资源池化机制，以解决边缘 / 雾网络中网络异构性问题，提高机器学习模型的质量和网络此消耗。同时，该范例还支持无标签数据和异构设备隐私等新功能。

    Mar, 2023

  • 针对统计异质性的个性化联邦学习

    联邦学习的普及与人工智能应用中对数据隐私的关注日益增长。联邦学习促进了多方合作的模型学习，同时确保了数据保密性。然而，由于不同客户数据分布导致的统计异质性问题，会带来一些挑战，例如不足的个性化和收敛速度慢。为了解决上述问题，本文简要总结了个性化联邦学习领域的当前研究进展，概述了个性化联邦学习的概念，审视了相关技术，并强调了当前的努力。此外，本文还讨论了个性化联邦学习的潜在进一步研究和障碍。

    Feb, 2024

  • 聚类联邦学习：在隐私约束下的模型无关分布式多任务优化

    本研究提出了一种基于聚类的联邦多任务学习框架（Clustered Federated Learning），可在保持数据隐私性的同时，更好地解决联邦学习中本地数据分布不同的问题，并在深度卷积和循环神经网络上进行实验证明了其有效性。

    Oct, 2019

  • 联邦学习中的协作公平性

    研究分布式和联邦学习的合作公平性问题，提出了一种新的协作公平联邦学习框架，利用声誉来强制不同参与者收敛于不同模型，从而在不损害预测性能的情况下实现公平。

    Aug, 2020

  • 联邦学习的进展：模型、方法和隐私

    本文详细阐述了联邦学习的体系结构、应用问题、算法设计原则和安全问题，提出了一种更加通用的算法设计框架、攻击场景和防御方法，致力于将联邦学习与真实世界应用相集成并实现高性能、隐私保护和安全性。

    Feb, 2023

  • 公平差分隐私联邦学习框架

    通过应用裁剪技巧与高斯机制来解决不包含验证数据的公平差分私有联邦学习框架的可能出现的偏见更新问题，同时审查了隐私和公平性在联邦学习中的相关工作，并强调了 MITIGATE 偏见和确保隐私的最新进展和方法。

    May, 2023

  • 面向时间演变异构数据的联邦学习

    本研究提出 Continual Federated Learning (CFL) 框架来处理时变异构数据，该框架可以从过去的本地数据集中提取信息和逼近本地目标函数，从而比之前的 FL 方法在复杂和现实场景下具有更快的收敛速度。

    Dec, 2021

  • 个性化联邦学习基于堆叠

    使用堆叠泛化的新型个性化方法，在保护隐私的情况下，直接发送模型来训练元模型，并在水平、混合和垂直分区联邦中适用各种模型类型和隐私保护技术，从而创建更适合个体客户数据的多个模型，并通过多方面评估每位客户对联邦的贡献。

    Apr, 2024