Jun, 2023

PeFLL: 个性化联邦学习的终身学习方法

PDF
TL;DR本文提出了一种名为 PeFLL 的个性化联邦学习方法，通过联合训练嵌入网络和超级网络来输出特定客户端的模型，并证明了其较以往方法在精度和规模等方面都更具优势，还提供了一种新的理论结果以支持该方法的可行性。
personalized federated learningpeflllifelong learningclient-specific modelhypernetwork
发现论文，激发创造
  • 个性化先验隐藏信息联邦学习

    本文介绍了一个名为 pFedBreD 的基于贝叶斯学习方法的个性化联合学习框架，该框架针对异构数据问题进行建模，并应用 Bregman 散度约束来解决该问题。实验结果表明，在高斯先验和均值选择的一阶策略的前提下，pFedBreD 显著优于其他个性化联合学习算法。

    Nov, 2022

  • 个性化联邦学习基于堆叠

    使用堆叠泛化的新型个性化方法，在保护隐私的情况下，直接发送模型来训练元模型，并在水平、混合和垂直分区联邦中适用各种模型类型和隐私保护技术，从而创建更适合个体客户数据的多个模型，并通过多方面评估每位客户对联邦的贡献。

    Apr, 2024

  • 低维特征空间内有效个性化联邦学习的实现

    基于低维特征空间的个性化联邦学习（Personalized Federated Learning，PFL）框架，通过选择每个客户端自适应其本地数据分布下全局编码器生成的特征中与任务相关的特征，提供了比参数空间更易理解和解释的 PFL 实现方法。FedPick 在跨领域的联邦学习中能够为每个客户端有效选择与任务相关的特征并提高模型性能。

    Jul, 2023

  • PPFL: 面向异构人群的个性化联邦学习框架

    在本文中，我们基于联邦学习的范式，通过使用规范模型来捕捉异质人群的基本特征并利用会员向量揭示客户的偏好，开发了一个灵活且可解释的个性化框架 PPFL（Population Personalized Federated Learning），并探索了与多任务 PFL、聚类 FL 和解耦 PFL 三个主要分支的关系，证明了 PPFL 的优势。我们提出了一个新颖的随机块坐标下降算法来解决 PPFL（一个非凸约束优化问题）并给出了收敛性质。通过在病理数据集和实际数据集上进行实验，结果验证了 PPFL 的有效性。

    Oct, 2023

  • 客户监督的联邦学习：朝着通用个性化模型

    通过提出一种新的联邦学习框架，使得个性化联邦学习可以学习一个强健的全局模型，以在联邦学习系统中对未知的 / 测试客户端达到与个性化模型相当的性能。

    Mar, 2024

  • 个性化联邦学习与图形

    本文提出了一种基于图结构的结构化联邦学习框架（SFL），通过使用客户端之间的关系图形信息来加强 PFL 中的知识共享过程，并能够同时学习全局和个性化模型。SFL 可扩展到学习客户之间的隐藏关系，并证明了其在交通和图像基准数据集上的有效性。

    Mar, 2022

  • 异构和长尾数据上的多层个性化联邦学习

    MuPFL 是一种创新的个性化联邦学习框架，通过多层次结构完全利用不同层次的计算资源，解决数据异质性对模型偏差的影响，缓解过拟合、加速训练，提高分类准确性，并在非独立同分布和长尾条件下取得显著的有效性和效率方面的进展。

    May, 2024

  • FedL2P：个性化联邦学习

    该论文研究了联邦学习（FL）的个性化策略问题，并介绍了一种通过元网络（meta-nets）在 FL 网络中学习个性化策略的框架，该框架通过学习元网络的批量归一化和学习率参数来为每个客户端生成定制的个性化策略。实证结果表明，该框架在标签偏移和特征偏移情况下优于多种标准的手工个性化基线方法。

    Oct, 2023

  • 个性化联邦学习的概率模型：一种 PAC-Bayesian 方法

    个性化联邦学习的 PAC-PFL 算法在一个 PAC-Bayesian 框架中应用差分隐私处理数据相关的先验概率，协同学习共享超后验，并将每个客户的后验推断视为个性化步骤，通过建立和最小化客户平均真实风险的泛化界限，有效地抑制过度拟合，从而实现准确和良好校准的预测。

    Jan, 2024

  • 大规模移动边缘计算网络上的分层个性化联邦学习

    该研究提出了层次化的个性化联邦学习算法（HPFL），将用户设备（UEs）分层聚类，从而解决移动边缘计算（MEC）网络中的异构性问题，并在全局模型与边缘模型聚合之间寻求轮数损失最小化和轮延迟最小化之间的权衡。

    Mar, 2023