FedGCS: 通过基于梯度的优化在联邦学习中进行高效客户端选择的生成性框架

IJCAIMay, 2024

FedGCS: 通过基于梯度的优化在联邦学习中进行高效客户端选择的生成性框架

FedGCS: A Generative Framework for Efficient Client Selection in Federated Learning via Gradient-based Optimization

Zhiyuan Ning, Chunlin Tian, Meng Xiao, Wei Fan, Pengyang Wang...

TL;DRFedGCS 是一种创新的生成式客户端选择框架，它通过将客户端选择过程重新定义为生成任务来有效地编码丰富的决策知识，并利用梯度优化在连续表示空间中搜索最佳客户端选择，并通过波束搜索生成最终的最优客户端选择，从而在模型性能、延迟和能源消耗方面同时优化，超过了传统方法的综合性、可推广性和效率。

Abstract

federated learning faces significant challenges in statistical and system heterogeneity, along with high energy consumption, necessitating efficient client selection strategies. Traditional approaches, including

federated learning client selection fedgcs generative task gradient-based optimization

发现论文，激发创造

GPFL: 基于梯度投影的客户端选择框架用于高效联邦学习

通过衡量本地和全局下降方向的比较，利用 Exploit-Explore 机制，GPFL 方法能够处理数据异构性、计算负担和独立客户端处理的局限性，在非独立同分布的场景下，GPFL 在 FEMINST 测试准确率方面取得了 9% 以上的改进，并通过预选择和参数重用在联邦学习中实现了较短的计算时间。

Mar, 2024

移动联邦学习网络的多层客户端选择

提出了一种称为 SocFedCS 的新的基于 Lyapunov 优化的优化客户端选择方案，其通过信任网络在移动联邦学习网络中最小化成本并训练高质量的联邦学习模型，在四个真实世界的多媒体数据集上的实验表明，它的平均测试准确率比最佳基线高 2.06％，成本低 12.24％。

May, 2023

贪心 Shapley 客户选择用于通信高效的联邦学习

发展了一种被称为 GreedyFed 的具有偏见的客户选择策略，它能够在固定的通信轮次内，在数据分布、系统限制和隐私要求的高度异质性条件下，实现快速而稳定的收敛，并获得高准确性。

Dec, 2023

为联邦学习选择公平感知的客户

通过 Lyapunov 优化的公平感知联邦用户选择（FairFedCS）方法可以在联邦学习中动态调整联邦用户的选择概率，根据联邦用户的声誉、参与联邦任务的次数和对最终模型性能的贡献，共同考虑性能和公平性。在真实的多媒体数据集上进行的大量实验表明，FairFedCS 平均实现了 19.6% 更高的公平性和 0.73% 更高的测试准确性，超过了最佳性能的现有方法。

Jul, 2023

FedCor: 基于相关性的异构联邦学习主动客户选择策略

提出了 FedCor—— 一种基于相关性的客户端选择策略的联邦学习（FL）框架，以提高 FL 的收敛速度，并通过在 FMNIST 和 CIFAR-10 上进行实验验证，在收敛速度方面比最先进的方法提高了 34％~99％和 26％~51％。

Mar, 2021

模拟全客户参与：联邦学习的长期客户选择策略

通过最小化客户子集与完整客户集之间的梯度空间估计误差，我们提出了一种旨在模拟完整客户参与下性能的新型客户选择策略，并引入了一种新颖的个体公平约束，以确保具有类似数据分布的客户具有类似的被选择频率，从长期的角度指导客户选择过程。我们利用 Lyapunov 优化和子模函数高效地识别出最佳客户子集，并对收敛能力进行了理论分析。实验结果表明，与先前方法相比，所提出的策略在提高准确性和公平性的同时，还以最小的时间开销显示出高效性。

May, 2024

一种提高联邦学习效率且保证公平性的客户端选择方案

本文旨在解决集中式人工智能模型训练时可能存在的隐私泄漏问题。作者提出一种公平保障的客户选择算法，其根据 Lyapunov 优化问题进行建模，通过 C2MAB 估计模型交换时间，称为 RBCS-F。通过理论分析和真实数据实验，证明了该算法的可行性和实用性。

Nov, 2020

快速异构联邦学习与混合客户端选择

本研究旨在解决联邦学习中由于客户端选择方案带来的模型更新差异性过大所导致的收敛速度慢的问题，并提出了一种基于聚类的客户端选择方案，通过方差约减来加速参与方的收敛速度。实验结果表明，该方案的效率超过了其他替代方案。

Aug, 2022

联邦学习中客户选择的综合调查

联邦学习是机器学习领域中迅速发展的领域，允许数据在多个分散设备上进行训练。客户端选择是整个系统性能的关键因素。本调查综述了联邦学习中最先进的客户端选择技术，包括它们的优点、局限性以及需解决的挑战和开放问题。我们涵盖了传统的选择技术，例如随机选择，其中选择所有或部分随机的客户端进行训练。我们还涵盖了面向性能和面向资源的选择，适用于资源受限和异构网络。我们还讨论了客户端选择在模型安全增强中的使用。最后，我们讨论了动态约束和异构网络中的客户端选择相关的开放问题和挑战。

Nov, 2023

移动边缘异构资源联邦学习的客户端选择

本篇论文中，我们介绍了一种基于移动边缘计算，利用分布式客户端数据和计算资源进行高性能机器学习模型训练的框架，该框架扩展了联邦学习的分布式学习框架，以实现与实际基于蜂窝网络的异构客户端的协作；我们的新 FL 协议（FedCS）通过解决具有资源限制的客户端选择问题来提高训练效率，在公开可用的大规模图像数据集上进行实验，实验结果表明，与原始 FL 协议相比，FedCS 能够在显著缩短的时间内完成训练。

Apr, 2018