Oct, 2023

PPFL: 面向异构人群的个性化联邦学习框架

HTML
PDF
TL;DR在本文中，我们基于联邦学习的范式，通过使用规范模型来捕捉异质人群的基本特征并利用会员向量揭示客户的偏好，开发了一个灵活且可解释的个性化框架 PPFL（Population Personalized Federated Learning），并探索了与多任务 PFL、聚类 FL 和解耦 PFL 三个主要分支的关系，证明了 PPFL 的优势。我们提出了一个新颖的随机块坐标下降算法来解决 PPFL（一个非凸约束优化问题）并给出了收敛性质。通过在病理数据集和实际数据集上进行实验，结果验证了 PPFL 的有效性。
发现论文，激发创造
  • 走向个性化联邦学习

    本综述论文研究了个性化联邦学习（PFL）的领域，着重解决异构数据带来的基本问题，通过分类和分析PFL技术，提出其关键挑战和机会，并展望了未来研究的发展方向。

    Mar, 2021

  • 基于结构化和非结构化剪枝的数据异构下的个性化联邦学习

    本文提出了一种针对统计异质性和非独立同分布数据的个性化全局模型联邦学习方法，使用混合剪枝和非结构化剪枝找到每个客户端的小型子网络来实现模型的个性化，实验结果表明，具有相似标签数据的客户端共享类似的个性化参数。

    May, 2021

  • 个性化联合学习与背景化泛化

    本文提出了一种名为上下文化泛化（CG）的新概念，旨在为每个客户端提供更好地适合本地数据分布和更快模型收敛的细粒度上下文知识。作者还提出了CGPFL框架，在多个现实世界的数据集上进行了实验，证明了该方法在测试精度上显著优于最先进的方法。

    Jun, 2021

  • 具有服务器端信息的个性化联邦学习

    研究个性化联邦学习中如何利用服务器数据来提高meta-gradient计算以增加个性化性能的FedSIM方法，并通过各种基准测试和消融实验证明其优于现有方法，不仅计算效率更高，而且收敛速度高达34.2％。

    May, 2022

  • 动态个性化联邦学习与激励

    本文介绍了一种名为DyPFL的动态个性化联邦学习技术，将受训练意愿不同的客户纳入考虑，以提高收敛性能。结果表明，该算法可以在各种条件下优于替代个性化方法。

    Aug, 2022

  • GPFL：针对个性化联邦学习同时学习全局和个性化特征信息

    提出了一种名为GPFL的新的个性化联邦学习方法，该方法在每个客户端上同时学习全局和个性化的特征信息，并在六个数据集上展示了GPFL在效果、可扩展性、公平性、稳定性和隐私方面优于十种最先进方法的优越性，此外，GPFL能够减轻过拟合问题，准确率比基线方法提高了8.99%。

    Aug, 2023

  • 针对统计异质性的个性化联邦学习

    联邦学习的普及与人工智能应用中对数据隐私的关注日益增长。联邦学习促进了多方合作的模型学习，同时确保了数据保密性。然而，由于不同客户数据分布导致的统计异质性问题，会带来一些挑战，例如不足的个性化和收敛速度慢。为了解决上述问题，本文简要总结了个性化联邦学习领域的当前研究进展，概述了个性化联邦学习的概念，审视了相关技术，并强调了当前的努力。此外，本文还讨论了个性化联邦学习的潜在进一步研究和障碍。

    Feb, 2024

  • 客户监督的联邦学习：朝着通用个性化模型

    通过提出一种新的联邦学习框架，使得个性化联邦学习可以学习一个强健的全局模型，以在联邦学习系统中对未知的/测试客户端达到与个性化模型相当的性能。

    Mar, 2024

  • 个性化联邦学习基于堆叠

    使用堆叠泛化的新型个性化方法，在保护隐私的情况下，直接发送模型来训练元模型，并在水平、混合和垂直分区联邦中适用各种模型类型和隐私保护技术，从而创建更适合个体客户数据的多个模型，并通过多方面评估每位客户对联邦的贡献。

    Apr, 2024

  • 个性化联邦学习技术：实证分析

    本文针对个性化联邦学习（pFL）在平衡内存开销与模型准确性方面的挑战，提供了实证分析。通过评估十种主流pFL技术，研究表明个性化聚合方法在通信和计算效率上具有最快收敛速度，而其他方法如微调和多目标学习则在数据异质性和资源消耗方面存在局限，强调了通信效率在pFL扩展中的关键作用。

    Sep, 2024