无线网络联合学习：有限带宽协调下降方法

Feb, 2021

无线网络联合学习：有限带宽协调下降方法

Federated Learning over Wireless Networks: A Band-limited Coordinated Descent Approach

Junshan Zhang, Na Li, Mehmet Dedeoglu

TL;DR本研究考虑了一种基于无线边缘网络的多对一联合学习架构，并提出了基于 SGD 的带限制坐标下降算法以适应无线通信资源。研究者还通过联合优化功率分配和学习速率以减少通信误差，并发现跨不同子载波的最佳功率分配应同时考虑梯度值和信道条件。最后，他们提出了一些可行的分布式解决方案来对该问题进行优化。

Abstract

We consider a many-to-one wireless architecture for federated learning at the network edge, where multiple edge devices collaboratively train a model using local data. The unreliable nature of wireless connectivity, together with constraints in computing resources at edge devices, dict

federated learning wireless edge over-the-air computing sgd-based bandlimited coordinate descent algorithms communication error minimization

发现论文，激发创造

无线衰落信道上的联邦学习

本文研究了在无线网络边缘的联邦机器学习，其中有限功率的无线设备，每个设备具有自己的数据集，并利用远程参数服务器（PS）建立联合模型。文章提出了各种技术来实现分布式随机梯度下降（DSGD），其中包括数字 DSGD（D-DSGD）和压缩模拟 DSGD（CA-DSGD）算法，并通过实验数据表明 CA-DSGD 算法收敛速度更快，达到更高的精度。

Jul, 2019

基于无线 D2D 网络的分散联邦学习

本文提出了一种在无线边缘设备间通过分布式学习模型的联合训练方式，使用 Decentralized Stochastic Gradient Descent 协议实现设备间协同训练，通过适应路径损耗、衰落、阻挡和干扰等因素的技术，在物理层上利用稀疏基础恢复实现了无线波传输和计算的处理。

Feb, 2020

边缘机器学习：基于分布式随机梯度下降的空中传输

本研究在有限的功率和带宽条件下，探索了运用多个边缘设备进行分布式随机梯度下降算法的联邦机器学习，提出了 D-DSGD 和 A-DSGD 两个方法，其中 A-DSGD 采用了一项新颖的模拟方案，比 D-DSGD 更快地收敛，并表现出更好的鲁棒性和可扩展性。

Jan, 2019

基于无线设备间网络的联邦学习算法与收敛分析

该研究探讨了基于设备对设备（D2D）网络的联邦学习，在分布式随机梯度下降算法实现中，利用随机线性编码和空中计算的数字和模拟传输方案进行通信效率的改进，并且在假设凸性和连通性的情况下提供了收敛性结果。

Jan, 2021

通过无线计算进行联邦学习

提出了一种基于超过空气计算的方法，探索了无线多接入通道的叠加属性，用于边缘机器学习中的快速全局模型聚合。

Dec, 2018

多服务器无线联邦学习

本文提出了一种基于聚类的两层联邦学习算法，使用可扩展的聚类无线聚合方案实现算法的上行传输，使用适用于带宽受限的广播方案进行下行传输，展示了在干扰环境下该方法的高精度学习表现并导出该方法的收敛界。

Nov, 2022

资源受限边缘计算系统中的自适应联邦学习

本文主要研究在边缘计算环境中使用分布式梯度下降学习模型参数的问题，提出控制算法以最小化给定资源预算下的损失函数，并通过真实数据集的大量实验评估算法性能。

Apr, 2018

联合学习和通信框架用于无线网络联邦学习

研究了在现实无线网络上训练联邦学习算法的问题，提出了一种联合学习、无线资源分配和用户选择的优化问题，并获得了期望收敛速率的闭式表达式，从而实现最小化 FL 损失函数的最优用户选择和上行资源块分配。

Sep, 2019

无线量化联邦学习：一种联合计算和通信设计

本文旨在通过在上传之前对本地模型参数进行量化，最小化联邦学习的总收敛时间，以保证在所有全局轮次中的最小收敛时间。我们利用随机量化对 FL 算法的收敛性进行了收敛分析，同时综合优化了计算，通讯资源和量化比特数，以保证在所有全局轮次中的最小收敛时间，同时满足能源和量化误差的要求。我们对量化误差对收敛时间的影响进行了评估，并揭示了模型准确性与及时执行之间的平衡。此外，所提出的方法被证明与基线方案相比，可以加速收敛速度，并为量化误差容忍度的选择提供有用的见解。

Mar, 2022

联合通信与计算设计的能效联邦边缘学习

本文研究了联邦边缘学习系统，旨在通过协调边缘设备共同训练机器学习模型，以提高系统能效。同时，利用联合通信和计算设计优化边缘设备传输协议，通过最小化边缘设备上传机器学习模型参数时的总能耗，提高系统能效。作者提出了一种有效的算法来优化能量下降问题。数值结果显示，相对于其他基准方案，作者提出的联合通信和计算设计可以显著提高联邦边缘学习系统的能效。

Feb, 2020