无线边缘协作机器学习

Jul, 2019

Collaborative Machine Learning at the Wireless Edge with Blind Transmitters

Mohammad Mohammadi Amiri, Tolga M. Duman, Deniz Gunduz

TL;DR研究了一种无线协作机器学习的方法，其中移动边缘设备通过带有参数服务器的无线接入点进行分布式随机梯度下降算法。提出使用模拟 DSGD 方案，利用无码方式在无线信道上传输梯度估计；通过使用多个天线来减轻破坏性的信道衰落效应，缓解了信道状态信息不足的问题，并实现了模型参数的更新。理论分析和实验结果均表明，多个 PS 天线可以缓解衰落效应。

Abstract

We study wireless collaborative machine learning (ML), where mobile edge devices, each with its own dataset, carry out distributed stochastic gradient descent (DSGD) over-the-air with the help of a wireless access point acting as the parameter server (PS). At each iteration of the DSGD

wireless collaborative machine learning distributed stochastic gradient descent wireless fading multiple access channel analog dsgd scheme multiple antennas

发现论文，激发创造

边缘机器学习：基于分布式随机梯度下降的空中传输

本研究在有限的功率和带宽条件下，探索了运用多个边缘设备进行分布式随机梯度下降算法的联邦机器学习，提出了 D-DSGD 和 A-DSGD 两个方法，其中 A-DSGD 采用了一项新颖的模拟方案，比 D-DSGD 更快地收敛，并表现出更好的鲁棒性和可扩展性。

Jan, 2019

无线衰落信道上的联邦学习

本文研究了在无线网络边缘的联邦机器学习，其中有限功率的无线设备，每个设备具有自己的数据集，并利用远程参数服务器（PS）建立联合模型。文章提出了各种技术来实现分布式随机梯度下降（DSGD），其中包括数字 DSGD（D-DSGD）和压缩模拟 DSGD（CA-DSGD）算法，并通过实验数据表明 CA-DSGD 算法收敛速度更快，达到更高的精度。

Jul, 2019

基于空中计算的分布式随机梯度下降

研究将分布式随机梯度下降算法应用于无线网络中的性能表现，探讨对传输干扰和噪声等方面进行优化的方法，选用 OAC-MAC 算法来实施无线计算，并将调度问题转化为图着色问题，并通过 MNIST 图像分类任务的实验来验证方法的可行性和有效性。

Mar, 2020

多路径衰落信道上的模拟梯度下降学习

本研究针对大型无线网络上的多路访问信道（MAC）上的分布式学习问题，开发了一种新颖的 GBMA 算法，通过使用共同波形传输局部梯度的模拟函数来更新估计，GBMA 不需要功率控制或波束成形来消除衰落效应，并直接处理噪声失真的梯度。我们在理论上分析了 GBMA 的性能，并证明了它可以接近中心梯度下降（GD）算法的收敛速度，在大型网络中确立了误差的有限样本界限。此外，当节点数量增加时，我们还提供了逼近中心收敛速度的能量缩放定律。最后，实验结果支持了理论发现，并使用合成和真实数据展示了 GBMA 的强大性能。

Aug, 2019

盲联邦边缘学习

本文研究边缘设备协作学习中的无线联邦学习，其中利用无线接入点作为参数服务器，使用 “over-the-air” 聚合方案实现全局模型的积极性和设备间的协作，通过使用接收波束成形方案来补偿缺乏完美信道状态信息带来的破坏效应，证明该算法在具有足够天线数量的情况下可以改善其性能。

Oct, 2020

多路衰落信道上的加速梯度下降学习

本文考虑了分布式学习在无线网络中的应用，开发了新的多进程加速梯度下降算法来优化收敛速度。

Jul, 2021

基于无线 D2D 网络的分散联邦学习

本文提出了一种在无线边缘设备间通过分布式学习模型的联合训练方式，使用 Decentralized Stochastic Gradient Descent 协议实现设备间协同训练，通过适应路径损耗、衰落、阻挡和干扰等因素的技术，在物理层上利用稀疏基础恢复实现了无线波传输和计算的处理。

Feb, 2020

无线网络分布式学习：广播与随机接入的影响

本研究侧重于分散学习的通信方面，探讨了广播传输和概率随机访问策略对分布式随机梯度下降 (D-SGD) 收敛性能的影响，结果表明，优化访问概率能够极大地加速系统的收敛速度。

May, 2023

基于无线设备间网络的联邦学习算法与收敛分析

该研究探讨了基于设备对设备（D2D）网络的联邦学习，在分布式随机梯度下降算法实现中，利用随机线性编码和空中计算的数字和模拟传输方案进行通信效率的改进，并且在假设凸性和连通性的情况下提供了收敛性结果。

Jan, 2021

无线网络联合学习：有限带宽协调下降方法

本研究考虑了一种基于无线边缘网络的多对一联合学习架构，并提出了基于 SGD 的带限制坐标下降算法以适应无线通信资源。研究者还通过联合优化功率分配和学习速率以减少通信误差，并发现跨不同子载波的最佳功率分配应同时考虑梯度值和信道条件。最后，他们提出了一些可行的分布式解决方案来对该问题进行优化。

Feb, 2021