具有服务器端信息的个性化联邦学习
本文研究了联邦学习的个性化变种,在Model-Agnostic Meta-Learning框架下,通过个性化Federated Averaging算法,根据不同用户数据的分布差异,探讨其性能的影响。
Feb, 2020
该研究提出了一种基于Moreau envelopes的个性化联邦学习算法(pFedMe),用于解决客户端之间的统计差异性问题并实现个性化模型优化和全局模型学习的分离,该算法在理论上已证明具有先进的收敛速度,在实验中也证明在表现上优于vanilla FedAvg和Per-FedAvg等算法。
Jun, 2020
本文提出了一种个性化的联邦学习方法,通过每个客户只与相关客户联合训练模型,实现客户自定义目标分布的最优加权模型组合,且不需要知道任何数据分布或客户相似性的先验知识,该方法在多个联邦学习场景和数据集下表现优异,同时也支持个性化的迁移学习。
Dec, 2020
本文提出了一种针对统计异质性和非独立同分布数据的个性化全局模型联邦学习方法,使用混合剪枝和非结构化剪枝找到每个客户端的小型子网络来实现模型的个性化,实验结果表明,具有相似标签数据的客户端共享类似的个性化参数。
May, 2021
本文设计了以用户为中心的聚合规则,基于可用的梯度信息,为每个联邦学习客户端生成个性化模型,并得出了一种课通信高效的变体,以优于流行的个性化联邦学习基线的平均正确性,最差节点性能和训练通信开销。
Apr, 2023
该论文研究了联邦学习(FL)的个性化策略问题,并介绍了一种通过元网络(meta-nets)在FL网络中学习个性化策略的框架,该框架通过学习元网络的批量归一化和学习率参数来为每个客户端生成定制的个性化策略。实证结果表明,该框架在标签偏移和特征偏移情况下优于多种标准的手工个性化基线方法。
Oct, 2023
使用堆叠泛化的新型个性化方法,在保护隐私的情况下,直接发送模型来训练元模型,并在水平、混合和垂直分区联邦中适用各种模型类型和隐私保护技术,从而创建更适合个体客户数据的多个模型,并通过多方面评估每位客户对联邦的贡献。
Apr, 2024