可扩展可靠的联合边缘学习无线传输
本文研究边缘设备协作学习中的无线联邦学习,其中利用无线接入点作为参数服务器,使用“over-the-air”聚合方案实现全局模型的积极性和设备间的协作,通过使用接收波束成形方案来补偿缺乏完美信道状态信息带来的破坏效应,证明该算法在具有足够天线数量的情况下可以改善其性能。
Oct, 2020
本文提出了一种基于UMAirComp框架的的边缘联邦学习方式,该框架可利用模拟波束成形同时上传本地模型参数并更新全局模型参数,从而避免了复杂的基带信号处理,大大降低了通信延迟和实现成本。此外,还提出了一种面向非凸非光滑损失约束下的低复杂度大规模优化算法PAM和AGP,并在基于UMAirComp框架的边缘联邦学习系统中获得较小的均方误差、训练损失和测试误差。最后,本文通过在车联网驾驶模拟平台中的测试表明,UMAirComp系统对于自主驾驶任务比其他任务更加敏感由于自主行驶的神经网络包含更加稀疏的模型参数。
Jan, 2021
本研究提出了一种数字无线计算方案,用于实现联合边缘学习的连续值(模拟量)聚合,利用该方案对局部随机梯度进行编码,通过非相干接收机和自适应绝对最大值的概念,实现了优异的测试准确度。
Oct, 2022
本文提出了一种使用AirComp方案的半异步聚合FEEL机制(PAOTA),以提高FEEL系统的训练效率,并通过模拟结果表明,相对于理想的本地SGD和AirComp的同步FEEL算法,PAOTA在达到相同目标精度时所需的训练时间更短且收敛性能接近于本地SGD。
May, 2023
该论文综述了使用模拟空中计算技术进行联邦边缘学习系统的正负影响和潜在问题。空中计算技术在快速聚合中间参数和实现(几乎)无限可扩展性方面具有优势,但无线通信引入的干扰也会影响模型训练过程的各个方面,同时其重要性尚未得到很好的认识。
Jun, 2023
使用过空中计算的联邦学习方法,研究了在无线网络上进行联邦学习时由于信道衰落和噪声引起的模型聚合误差,包括收敛性、影响、收敛速率、传输方案和通信效率等方面,并通过仿真验证了理论结论。
Oct, 2023
在这项研究中,我们针对多路径fading信道进行了联合边缘学习的研究,通过引入一种创新的数字过空中计算策略,采用q进制正交幅度调制,提出了一种低时延通信方案。我们分析了消除无线通信中的fading所需的天线数量,并通过数值实验证实了理论的保证,证明了边缘服务器增加天线数量和采用高阶调制可以提高模型准确性达到60%。
Nov, 2023
该论文介绍了一种通用的联邦学习框架,通过数字通信实现空中计算,使用了一种新的联合源通道编码方案。该方案不依赖于设备的信道状态信息,采用晶格码来对模型参数进行量化,并利用设备的干扰。服务器上设计了一种新颖的两层接收器结构,可可靠地解码量化的模型参数的整数组合作为晶格点进行聚合。数值实验验证了该方案的有效性。即使在信道条件和设备异质性带来的挑战下,该方案显著超越了其他空中联邦学习策略。
Mar, 2024
该研究提出了一种支持数字调制的端到端通信系统,旨在克服数字调制的AirComp中精确解码总和信号的挑战,通过使用自编码器网络结构和发射机、接收机组件的共同优化,填补了数字调制的AirComp情景中精确解码总和信号的重要空白,可以推动联邦学习在当代无线系统中的部署。
Apr, 2024
本文提出了一种联邦学习框架,通过数字通信实现空中计算,采用新的联合信源-信道编码方案。该方案利用晶格编码量化模型参数并利用设备间的干扰,显著提高了学习精度,尤其在不同的信道动态和数据异质性情况下,优于其他空中传输方法。
Sep, 2024