Apr, 2023

基于联邦学习的可共享特征训练方法，用于友好个性化图像分类

PDF
TL;DR本文提出了一种新的个性化联邦学习框架 ——FedBasis，它学习一组共享的 “基础” 模型，可以线性组合形成客户定制的模型，从而实现在低数据情况下减少推断成本，同时提高参数效率和鲁棒性。
personalized federated learningfedbasisclientsshareable basis modelslow data
发现论文，激发创造
  • 个性化联邦学习基于堆叠

    使用堆叠泛化的新型个性化方法，在保护隐私的情况下，直接发送模型来训练元模型，并在水平、混合和垂直分区联邦中适用各种模型类型和隐私保护技术，从而创建更适合个体客户数据的多个模型，并通过多方面评估每位客户对联邦的贡献。

    Apr, 2024

  • 个性化先验隐藏信息联邦学习

    本文介绍了一个名为 pFedBreD 的基于贝叶斯学习方法的个性化联合学习框架，该框架针对异构数据问题进行建模，并应用 Bregman 散度约束来解决该问题。实验结果表明，在高斯先验和均值选择的一阶策略的前提下，pFedBreD 显著优于其他个性化联合学习算法。

    Nov, 2022

  • 个性化联邦学习的概率模型：一种 PAC-Bayesian 方法

    个性化联邦学习的 PAC-PFL 算法在一个 PAC-Bayesian 框架中应用差分隐私处理数据相关的先验概率，协同学习共享超后验，并将每个客户的后验推断视为个性化步骤，通过建立和最小化客户平均真实风险的泛化界限，有效地抑制过度拟合，从而实现准确和良好校准的预测。

    Jan, 2024

  • 个性化联邦学习与图形

    本文提出了一种基于图结构的结构化联邦学习框架（SFL），通过使用客户端之间的关系图形信息来加强 PFL 中的知识共享过程，并能够同时学习全局和个性化模型。SFL 可扩展到学习客户之间的隐藏关系，并证明了其在交通和图像基准数据集上的有效性。

    Mar, 2022

  • 个性化高斯过程联邦学习

    pFedGP 基于高斯过程和深层核学习，旨在解决在低数据环境下学习跨客户有效性的挑战，通过学习跨客户的共享核函数以及个性化的 GP 分类器，在多个基准测试中实现了高度准确的状态，并在可靠性方面显着优于基准方法。

    Jun, 2021

  • 低维特征空间内有效个性化联邦学习的实现

    基于低维特征空间的个性化联邦学习（Personalized Federated Learning，PFL）框架，通过选择每个客户端自适应其本地数据分布下全局编码器生成的特征中与任务相关的特征，提供了比参数空间更易理解和解释的 PFL 实现方法。FedPick 在跨领域的联邦学习中能够为每个客户端有效选择与任务相关的特征并提高模型性能。

    Jul, 2023

  • 使用对比学习方法的预训练模型联邦学习

    本文提出了一种轻量级框架，使客户端通过融合多个预训练模型生成的表示而不是从头开始训练大规模模型来共同学习；我们设计了一种基于原型的对比学习（FedPCL）方法，以原型为共享信息进行知识传递，从而提高各个客户端利用现有模型的能力并保持通信效率。

    Sep, 2022

  • 大胆而谨慎：通过谨慎激进的合作释放个性化联邦学习的潜力

    本文介绍了个性化联邦学习中客户端协作的新指南，允许客户端与其他客户端共享更多参数，从而改善模型性能。此外，我们还提出了一种名为 FedCAC 的新联邦学习方法，通过定量指标评估每个参数对非独立分布数据的敏感性，并根据该评估精选合作伙伴。实验结果表明，FedCAC 使客户端能够与其他客户端共享更多参数，在客户端数据分布多样的场景下取得了卓越的性能。

    Sep, 2023

  • FedL2P：个性化联邦学习

    该论文研究了联邦学习（FL）的个性化策略问题，并介绍了一种通过元网络（meta-nets）在 FL 网络中学习个性化策略的框架，该框架通过学习元网络的批量归一化和学习率参数来为每个客户端生成定制的个性化策略。实证结果表明，该框架在标签偏移和特征偏移情况下优于多种标准的手工个性化基线方法。

    Oct, 2023

  • 动态个性化联邦学习与激励

    本文介绍了一种名为 DyPFL 的动态个性化联邦学习技术，将受训练意愿不同的客户纳入考虑，以提高收敛性能。结果表明，该算法可以在各种条件下优于替代个性化方法。

    Aug, 2022