异构和长尾数据上的多层个性化联邦学习

May, 2024

异构和长尾数据上的多层个性化联邦学习

Multi-level Personalized Federated Learning on Heterogeneous and Long-Tailed Data

Rongyu Zhang, Yun Chen, Chenrui Wu, Fangxin Wang, Bo Li

TL;DRMuPFL 是一种创新的个性化联邦学习框架，通过多层次结构完全利用不同层次的计算资源，解决数据异质性对模型偏差的影响，缓解过拟合、加速训练，提高分类准确性，并在非独立同分布和长尾条件下取得显著的有效性和效率方面的进展。

Abstract

federated learning (FL) offers a privacy-centric distributed learning framework, enabling model training on individual clients and central aggregation without necessitating data exchange. Nonetheless, FL implementations often suffer from non-i.i.d. and long-tailed class distributions a

federated learning multi-level personalized federated learning data heterogeneity overfitting model bias

发现论文，激发创造

多层个性化联邦学习用于缓解学生预测分析中的偏差

本文提出了一种用于学生建模的多层个性化联邦学习 (Multi-Layer Personalized Federated Learning, MLPFL) 方法，旨在优化不同层次学生群组标准的推断准确性。该方法通过分布式训练以元梯度更新推导出团体内个人化模型，并结合多种学生行为模态，实现了个性化建模以提高跨不同学生子群组的预测准确性和稳定性。在三个真实的在线课程数据集上的实验表明，该方法在各种学生子群组中均能取得显著的预测质量改进，并为不同的学生子群组分别提取出特征聚类成果。

Dec, 2022

个性化先验隐藏信息联邦学习

本文介绍了一个名为 pFedBreD 的基于贝叶斯学习方法的个性化联合学习框架，该框架针对异构数据问题进行建模，并应用 Bregman 散度约束来解决该问题。实验结果表明，在高斯先验和均值选择的一阶策略的前提下，pFedBreD 显著优于其他个性化联合学习算法。

Nov, 2022

针对统计异质性的个性化联邦学习

联邦学习的普及与人工智能应用中对数据隐私的关注日益增长。联邦学习促进了多方合作的模型学习，同时确保了数据保密性。然而，由于不同客户数据分布导致的统计异质性问题，会带来一些挑战，例如不足的个性化和收敛速度慢。为了解决上述问题，本文简要总结了个性化联邦学习领域的当前研究进展，概述了个性化联邦学习的概念，审视了相关技术，并强调了当前的努力。此外，本文还讨论了个性化联邦学习的潜在进一步研究和障碍。

Feb, 2024

面向边缘计算的个性化深度神经网络联合学习

该研究提出了一种多任务联邦学习算法，通过添加非联邦批归一化层来允许用户训练个性化的模型，该算法支持联邦优化策略并在实验中表现出更快的收敛速度和更好的个性化精度。

Jul, 2020

FedMAP：通过双层映射优化解锁个性化联邦学习的潜力

一个基于双层优化的贝叶斯个性化联邦学习框架，利用全局模型作为先验分布，在个性化客户模型的最大后验估计中集成共享知识，从而增强本地模型性能、泛化能力和通信效率，以解决联邦学习中非独立同分布数据带来的挑战。

May, 2024

基于异构模块化网络的个性化联邦学习

Federated Modular Network (FedMN) is a novel Personalized Federated Learning approach that adapts to the joint distribution among local clients and produces personalized module block selection with a light-weighted routing hypernetwork, resulting in more effective and efficient learning compared to existing methods

Oct, 2022

个性化联邦学习基于堆叠

使用堆叠泛化的新型个性化方法，在保护隐私的情况下，直接发送模型来训练元模型，并在水平、混合和垂直分区联邦中适用各种模型类型和隐私保护技术，从而创建更适合个体客户数据的多个模型，并通过多方面评估每位客户对联邦的贡献。

Apr, 2024

异构数据感知联邦学习

本研究提出一种新方法来解决联邦学习中的问题，并在本文所述的公开基准数据集（如 Femnist）以及自己收集的数据集（即流量分类）上验证了该方法的有效性，结果表明这种方法在极端情况下具有显著的优势。

Nov, 2020

走向个性化联邦学习

本综述论文研究了个性化联邦学习（PFL）的领域，着重解决异构数据带来的基本问题，通过分类和分析 PFL 技术，提出其关键挑战和机会，并展望了未来研究的发展方向。

Mar, 2021

通过去中心化的部分模型训练实现更适合个性化的联邦学习

本文提出了一种名为 DFedAlt 的个性化联邦学习框架，采用分散的部分模型训练方法，取得了与目前最先进的基准模型相媲美或更好的状态。该算法通过依次更新共享和个性化参数，在点对点的方式构建局部个性化模型，同时采用局部 SAM（Sharpness Aware Minimization）优化器来更新共享参数，从而有效地解决了模型共享一致性不足和通信成本过高等问题。

May, 2023