FedSelect：个性化联邦学习的参数定制选择

Jun, 2023

FedSelect：个性化联邦学习的参数定制选择

FedSelect: Customized Selection of Parameters for Fine-Tuning during Personalized Federated Learning

Rishub Tamirisa, John Won, Chengjun Lu, Ron Arel, Andy Zhou

TL;DR本文提出了一种新的联邦学习框架，名为 FedSelect，可以通过发现最佳参数进行个性化，并同时进行其他参数进行全局聚合，以此同时地个性化客户子网络结构和参数。

Abstract

Recent advancements in federated learning (FL) seek to increase client-level performance by fine-tuning client parameters on local data or personalizing architectures for the local task. Existing methods for such

federated learning personalization client subnetworks fl framework fine-tuning

发现论文，激发创造

FedSelect：个性化的联邦学习与定制化参数选择用于精调

FedSelect 是一种新的个性化联邦学习算法，通过逐步扩展子网络对客户参数进行个性化，并在剩余参数上进行全局聚合，从而解决了客户数据异质性问题。

Apr, 2024

FedL2P：个性化联邦学习

该论文研究了联邦学习（FL）的个性化策略问题，并介绍了一种通过元网络（meta-nets）在 FL 网络中学习个性化策略的框架，该框架通过学习元网络的批量归一化和学习率参数来为每个客户端生成定制的个性化策略。实证结果表明，该框架在标签偏移和特征偏移情况下优于多种标准的手工个性化基线方法。

Oct, 2023

自我感知个性化联邦学习

本论文提出了一种自我感知的个性化联邦学习方法，通过采用贝叶斯分层模型，利用不确定性量化来平衡本地模型改进和全局模型调整，使用不确定性驱动的本地训练步骤和聚合规则来实现。通过实验研究，该方法显著提高了个性化性能。

Apr, 2022

个性化联邦学习与一阶模型优化

本文提出了一种个性化的联邦学习方法，通过每个客户只与相关客户联合训练模型，实现客户自定义目标分布的最优加权模型组合，且不需要知道任何数据分布或客户相似性的先验知识，该方法在多个联邦学习场景和数据集下表现优异，同时也支持个性化的迁移学习。

Dec, 2020

部分个性化联邦学习：打破数据异构的诅咒

本文介绍了一种部分个性化的联邦学习（FL）方法，旨在在个性化和全局训练的灵活性之间取得平衡，并提出了一种简单的算法来解决数据异构性问题。

May, 2023

FedSoup: 通过选择性模型插值提高联邦学习中的泛化性和个性化

通过选择性插值模型参数的联邦模型汤方法，优化本地和全局性能之间的平衡，以减轻过拟合并改善模型的泛化性能。

Jul, 2023

个性化联邦学习参数选择的贝叶斯神经网络

提出了一种个性化的联邦学习方法，在神经网络的元素级别进行个性化参数选择，利用贝叶斯神经网络和提供的不确定性来指导参数选择，实验证明该方法在多个真实数据集上优于现有基线模型。

Feb, 2024

客户监督的联邦学习：朝着通用个性化模型

通过提出一种新的联邦学习框架，使得个性化联邦学习可以学习一个强健的全局模型，以在联邦学习系统中对未知的 / 测试客户端达到与个性化模型相当的性能。

Mar, 2024

公平联邦学习能否降低个性化需求？

本论文通过策略提出了 Personalisation-aware Federated Learning (PaFL) 的模型，在语言任务中减少了 50% 的表现不佳客户端的数量，在图像任务中也避免了表现不佳客户端数量翻倍的情况，提高了边缘设备参与联邦学习的效率并有望在未来实验和理论分析上得到更多的应用。

May, 2023

基于稀疏模型自适应的高效个性化联邦学习

提出一种名为 pFedGate 的方法，通过自适应和高效地学习稀疏本地模型来实现高效个性化联邦学习，并通过轻量级可训练的门控层使客户端生成不同的稀疏模型，同时考虑到异构的数据分布和资源限制，实现了计算和通信的效率提高，理论上的收敛性和泛化误差更优越，实验证明该方法相对于同类方法能够同时实现更高的全局准确性、个体准确性和效率，并能够适应不同的数据分布。

May, 2023