个性化联邦学习的最优输运方法

Jun, 2022

An Optimal Transport Approach to Personalized Federated Learning

Farzan Farnia, Amirhossein Reisizadeh, Ramtin Pedarsani, Ali Jadbabaie

TL;DR该论文提出了一种基于最优输送的个性化联邦学习方案（FedOT），该方案利用最优输送映射将数据点转换到公共分布，并在应用传输映射时学习预测模型，可有效解决联邦学习中异构数据分布的问题。

Abstract

federated learning is a distributed machine learning paradigm, which aims to train a model using the local data of many distributed clients. A key challenge in federated learning is that the data samples across t

federated learning personalized learning optimal transport multi-marginal optimal transport heterogeneous data distributions

发现论文，激发创造

通过最优传输促进联邦学习中的全局和局部协作

通过使用最优传输，我们提出了联邦化的提示协作方法（FedOTP），该方法采用高效的合作提示学习策略，以在每个客户端上捕获多样的类别特征，从而在数据异构性方面优于现有方法。

Feb, 2024

个性化联邦学习与一阶模型优化

本文提出了一种个性化的联邦学习方法，通过每个客户只与相关客户联合训练模型，实现客户自定义目标分布的最优加权模型组合，且不需要知道任何数据分布或客户相似性的先验知识，该方法在多个联邦学习场景和数据集下表现优异，同时也支持个性化的迁移学习。

Dec, 2020

联邦优化指南

本论文旨在提供针对联邦优化算法的具体指导和实用实现，重点关注进行有效模拟以推断实际效果，并鼓励研究人员设计适用于各种实际应用的联邦学习算法。

Jul, 2021

UPFL：面向新客户的无监督个性化联邦学习

在个性化联邦学习领域，当一个联邦模型已经训练和部署，并且有一个未标记的新客户端加入时，为新客户端提供个性化模型是一个极具挑战性的任务。本文针对这一挑战，将自适应风险最小化技术扩展到无监督个性化联邦学习设置中，并提出我们的方法 FedTTA。我们通过使用代理正则化和熵提前停止调整来改进 FedTTA，进而提出了两种简单而有效的优化策略。此外，我们还针对 FedTTA 设计了一种专门的知识蒸馏损失，以解决设备异构性问题。针对十一个基准测试，通过对五个数据集进行大量实验，证明了我们提出的 FedTTA 及其变种的有效性。

Jul, 2023

FedGrad: 分散式機器學習中的優化

本文介绍联邦学习作为一种分布式机器学习方法，提出自适应联邦优化算法和其他一些想法，并通过实验展示了在性能上的改进。

Nov, 2022

基于自适应 OPTICS 聚类的强化联邦学习方法

本文提出一种基于自适应 OPTICS 聚类的增强型联邦聚合方法，将聚类环境视为马尔可夫决策过程，并模拟参数搜索方向的调整过程，以找到最佳的聚类参数，从而实现更好的联邦聚合效果。

Jun, 2023

当去中心化优化遇上联邦学习

本文系统地研究了分散式学习对于联邦学习的分布式最优化的机遇和挑战。

Jun, 2023

主动联邦学习

该研究提出了一种便捷、简单的采样方案，用于减少联邦学习迭代次数并最大程度提高效率，主要研究领域包括联邦学习、人口模型、梯度和采样方案。

Sep, 2019

分布式个性化在线联邦学习

我们提出了一个新的去中心化个性化在线联邦学习设置，用于在在线环境中学习，在每个客户端上学习个性化模型，并在去中心化环境中学习。我们解决了两个技术挑战：如何通过优化本地模型的性能来聚合来自邻近客户端的共享模型参数，并通过学习的聚合权重选择最有帮助的邻居减少通信成本。

Nov, 2023

多目标进化联邦学习

此论文使用多目标进化算法优化神经网络模型的结构，以同时减少通信成本和全局模型测试误差，提高联邦学习的学习性能和效率。

Dec, 2018