Sep, 2019

通过模型不可知元学习提高联邦学习个性化能力

PDF
TL;DR本文探讨了通过元学习算法为联邦学习实现个性化的可能性。结果表明，联邦平均算法可以被解释为一种元学习算法，并且通过细致的微调，可以得到更准确、更易于个性化的全局模型。
federated learningmodel agnostic meta learningpersonalizationfederated averagingglobal model
发现论文，激发创造
  • 个性化联邦学习：一种元学习方法

    本文研究了联邦学习的个性化变种，在 Model-Agnostic Meta-Learning 框架下，通过个性化 Federated Averaging 算法，根据不同用户数据的分布差异，探讨其性能的影响。

    Feb, 2020

  • FedL2P：个性化联邦学习

    该论文研究了联邦学习（FL）的个性化策略问题，并介绍了一种通过元网络（meta-nets）在 FL 网络中学习个性化策略的框架，该框架通过学习元网络的批量归一化和学习率参数来为每个客户端生成定制的个性化策略。实证结果表明，该框架在标签偏移和特征偏移情况下优于多种标准的手工个性化基线方法。

    Oct, 2023

  • Meta-FL: 面向异构模型聚合的新型元学习框架在联邦学习中的优化

    元联邦学习通过优化的元汇聚器导航异构模型更新的复杂性，利用元特征增强了全局模型的性能，从而保证了对每个本地模型准确性的个性化汇聚。在四个与医疗相关的数据集上进行的实证评估显示，Meta-FL 框架具有适应性、效率、可扩展性和鲁棒性，优于传统的联邦学习方法。此外，Meta-FL 在较少的通信轮次中实现了优越的准确性，并且能够在不影响性能的情况下管理不断扩大的联邦网络，显示出卓越的效率和可扩展性。

    Jun, 2024

  • 混合分布下的联邦多任务学习

    该研究提出了一种基于混合模型假设的联邦多任务学习方法，该方法可以在设备上学习个性化模型并实现客户端和服务端两种架构下的联邦 EM 算法的收敛，同时在联邦学习基准测试中获得了更高的准确性和公平性。

    Aug, 2021

  • 通过本地适配挽救联合学习

    针对联邦学习中参与者局部利益与数据准确度不匹配的问题，本文提出并比较了三种本地适应技术，并指出差分隐私和鲁棒聚合恶化了联邦模型的准确性。这三种技术分别为：微调、多任务学习和知识蒸馏。我们的实验结果表明，所有参与者都从本地适应中受益，并且本地模型表现不佳的参与者通过传统联邦方式得到了大幅提升。

    Feb, 2020

  • 联邦互助学习

    本文提出了一种新的联邦学习范例，名为联邦互助学习（FML），以处理三种不同类型的异质性，允许客户在共同设计通用模型的同时独立设计个性化并为不同场景和任务的个性化定制模型。

    Jun, 2020

  • 非无线和无线网络上的联邦和元学习：教程

    本文综述了联邦学习、元学习和联邦元学习在非无线与无线网络中的设计、优化和应用，并分析了这些学习算法之间的关系以及它们在实际应用中的优缺点。

    Oct, 2022

  • 面向边缘计算的个性化深度神经网络联合学习

    该研究提出了一种多任务联邦学习算法，通过添加非联邦批归一化层来允许用户训练个性化的模型，该算法支持联邦优化策略并在实验中表现出更快的收敛速度和更好的个性化精度。

    Jul, 2020

  • 个性化联邦学习基于堆叠

    使用堆叠泛化的新型个性化方法，在保护隐私的情况下，直接发送模型来训练元模型，并在水平、混合和垂直分区联邦中适用各种模型类型和隐私保护技术，从而创建更适合个体客户数据的多个模型，并通过多方面评估每位客户对联邦的贡献。

    Apr, 2024

  • 自我感知个性化联邦学习

    本论文提出了一种自我感知的个性化联邦学习方法，通过采用贝叶斯分层模型，利用不确定性量化来平衡本地模型改进和全局模型调整，使用不确定性驱动的本地训练步骤和聚合规则来实现。通过实验研究，该方法显著提高了个性化性能。

    Apr, 2022