联邦学习中客户选择的系统文献综述
联邦学习是机器学习领域中迅速发展的领域,允许数据在多个分散设备上进行训练。客户端选择是整个系统性能的关键因素。本调查综述了联邦学习中最先进的客户端选择技术,包括它们的优点、局限性以及需解决的挑战和开放问题。我们涵盖了传统的选择技术,例如随机选择,其中选择所有或部分随机的客户端进行训练。我们还涵盖了面向性能和面向资源的选择,适用于资源受限和异构网络。我们还讨论了客户端选择在模型安全增强中的使用。最后,我们讨论了动态约束和异构网络中的客户端选择相关的开放问题和挑战。
Nov, 2023
通过 Lyapunov 优化的公平感知联邦用户选择(FairFedCS)方法可以在联邦学习中动态调整联邦用户的选择概率,根据联邦用户的声誉、参与联邦任务的次数和对最终模型性能的贡献,共同考虑性能和公平性。在真实的多媒体数据集上进行的大量实验表明,FairFedCS 平均实现了 19.6% 更高的公平性和 0.73% 更高的测试准确性,超过了最佳性能的现有方法。
Jul, 2023
通过多准则客户选择和调度方案,我们提出了一种具有公平性保证的联邦学习方案,包括两个阶段:初步客户池选择和每轮客户调度。我们通过建立一个基于多个准则的客户选择度量,如客户资源、数据质量和客户行为,来解决在给定预算下最大化选定客户整体得分的初始客户池选择问题,并通过贪婪算法求解该问题。为了保证公平性,我们进一步将每轮客户调度问题形式化,并提出一种启发式算法,将客户池分为多个子集,以确保每个客户至少被选择一次,同时确保子集中的整合数据集接近于独立且相同分布。我们的实验结果表明,该方案可以提高模型质量,特别是在非独立分布的数据情况下。
Dec, 2023
本研究考虑了在波动性环境下客户端选择问题,旨在在有效参与和公平性的联合考虑下解决权衡问题,提出 E3CS 方案以解决此问题,并通过实验验证其有效性。
Nov, 2020
提出了一种称为 SocFedCS 的新的基于 Lyapunov 优化的优化客户端选择方案,其通过信任网络在移动联邦学习网络中最小化成本并训练高质量的联邦学习模型,在四个真实世界的多媒体数据集上的实验表明,它的平均测试准确率比最佳基线高 2.06%,成本低 12.24%。
May, 2023
本研究旨在解决联邦学习中由于客户端选择方案带来的模型更新差异性过大所导致的收敛速度慢的问题,并提出了一种基于聚类的客户端选择方案,通过方差约减来加速参与方的收敛速度。实验结果表明,该方案的效率超过了其他替代方案。
Aug, 2022
介绍了一种名为 FilFL 的方法,它是一种优化联邦学习中客户端选择和训练的新方法,它首先通过选择最大化特定目标函数的子集来过滤活跃的客户端,然后应用客户端选择方法。经验结果表明,该方法具有诸多优势,包括提高学习效率、加速收敛、提高测试准确率等方面。
Feb, 2023
本文旨在解决集中式人工智能模型训练时可能存在的隐私泄漏问题。作者提出一种公平保障的客户选择算法,其根据 Lyapunov 优化问题进行建模,通过 C2MAB 估计模型交换时间,称为 RBCS-F。通过理论分析和真实数据实验,证明了该算法的可行性和实用性。
Nov, 2020