Oort：通过指导参与者选择实现高效联邦学习

Oct, 2020

Oort：通过指导参与者选择实现高效联邦学习

Oort: Efficient Federated Learning via Guided Participant Selection

Fan Lai, Xiangfeng Zhu, Harsha V. Madhyastha, Mosharaf Chowdhury

TL;DR本研究提出了基于指导性参与者选择的 Oort 方法，以改善联邦学习的性能，并显示出比现有参与者选择机制更好的 time-to-accuracy 性能和最终模型精度。

Abstract

federated learning (FL) is an emerging direction in distributed machine learning (ML) that enables in-situ model training and testing on edge data. Despite having the same end goals as traditional ML, FL executio

federated learning model training participant selection time-to-accuracy performance model testing

发现论文，激发创造

加速联邦学习的高效数据分配估计

在大规模 FL 环境中，本研究旨在研究客户端选择算法的开销，并提出一种高效的数据分布摘要计算算法来减少开销。评估结果显示，我们的解决方案在数据摘要时间上能够实现 30 倍的降低，聚类时间上能够实现 360 倍的降低。

Jun, 2024

辅助车联网的分布式多目标客户端选择在联邦学习中的应用

在本研究中，我们提出了一种分布式客户选择方案，以减少所有参与者维护活动状态的成本，并通过使用模糊逻辑作为评估器实现了对最高评价客户的选举，从而在准确性上接近集中式客户选择并显著减少通信开销。

Jan, 2024

基于最优客户端采样的通信高效联邦学习

本文提出了一种基于 Ornstein-Uhlenbeck 过程的方案，在受通信限制的情况下，通过收集具有信息更新的客户端模型和估计没有通信的本地更新的方式来更新中央模型，实现了在保证性能的同时显著减少了通信量，为联邦学习提供了一种新的通信效率优化方案。

Jul, 2020

联邦学习的进展和开放问题

本文讨论联邦学习的最新进展和挑战，并提出了一系列开放性问题和挑战。

Dec, 2019

基于区块链的优化客户选择和隐私保护联邦学习框架

基于区块链、智能合约和同态加密技术，设计了一种保护数据隐私的联邦学习框架，实现了分散化的训练过程，并取得了较高的准确率。

Jul, 2023

基于层次物联网网络的成本有效联邦学习的学习者转介

利用联邦学习，联合学员推荐辅助联邦客户选择（LRef-FedCS）和通信资源调度、本地模型准确性优化（LMAO）方法来解决在分层物联网（HieIoT）网络中最差情况下参与者产生的成本和确保联邦学习的长期公平性的问题。

Jul, 2023

联邦学习中客户选择的综合调查

联邦学习是机器学习领域中迅速发展的领域，允许数据在多个分散设备上进行训练。客户端选择是整个系统性能的关键因素。本调查综述了联邦学习中最先进的客户端选择技术，包括它们的优点、局限性以及需解决的挑战和开放问题。我们涵盖了传统的选择技术，例如随机选择，其中选择所有或部分随机的客户端进行训练。我们还涵盖了面向性能和面向资源的选择，适用于资源受限和异构网络。我们还讨论了客户端选择在模型安全增强中的使用。最后，我们讨论了动态约束和异构网络中的客户端选择相关的开放问题和挑战。

Nov, 2023

关于分散式联邦学习的调查

去中心化联邦学习解决方案的综述，包括现有的方法和未来的研究方向。

Aug, 2023

基于排名的仿真学习客户选择用于高效的联邦学习

FedRank 是一种新颖的设备选择解决方案，它是一种端到端的基于排名的方法，通过模仿学习预训练来解决数据和系统异构性，从而自适应地选择最适合进行模型训练的客户端。实验结果显示，FedRank 提高了模型准确性 5.2% 至 56.9%，加快了训练收敛速度，并节约了 40.1% 的能量消耗。

May, 2024

FLIPS：使用智能参与者选择的联邦学习

本文介绍了一种用于管理联邦学习中数据和参与者异构性的中间件系统 FLIPS。通过标签分布聚类，FLIPS 将参与 FL 训练的各方进行聚类，并确保每个聚类在选定的参与者中得到公平代表。FLIPS 支持常见的 FL 算法，包括 FedAvg、FedProx、FedDyn、FedOpt 和 FedYogi。为了管理平台异构性和资源可用性动态变化，FLIPS 引入了一个处理分布式智能社区应用中资源变化的边缘任务管理机制。通过可信执行环境 (TEE)，确保标签分布、聚类和参与者选择的隐私。我们通过对两个真实世界数据集、两种不同的非 IID 分布和三种常见的 FL 算法 (FedYogi、FedProx 和 FedAvg) 使用 FLIPS 与随机参与者选择以及其他两种 “智能” 选择机制（Oort 和梯度聚类）进行全面实证评估。结果表明，FLIPS 显著提高了收敛性，实现了高精度，其准确度比传统方法提高了 17-20％，通信成本降低了 20-60％，并且在出现资源滞后参与者的情况下仍然具有这些优势。

Aug, 2023