May, 2023

通过空中计算的半异步联邦边缘学习机制

PDF
TL;DR本文提出了一种使用 AirComp 方案的半异步聚合 FEEL 机制 (PAOTA)，以提高 FEEL 系统的训练效率，并通过模拟结果表明，相对于理想的本地 SGD 和 AirComp 的同步 FEEL 算法，PAOTA 在达到相同目标精度时所需的训练时间更短且收敛性能接近于本地 SGD。
over-the-air computationfederated edge learningsemi-asynchronous aggregationmodel aggregationtraining efficiency
发现论文，激发创造
  • 无线联邦学习与优化

    使用过空中计算的联邦学习方法，研究了在无线网络上进行联邦学习时由于信道衰落和噪声引起的模型聚合误差，包括收敛性、影响、收敛速率、传输方案和通信效率等方面，并通过仿真验证了理论结论。

    Oct, 2023

  • 基于平衡数制的联邦边缘学习的无线计算

    本研究提出了一种数字无线计算方案，用于实现联合边缘学习的连续值（模拟量）聚合，利用该方案对局部随机梯度进行编码，通过非相干接收机和自适应绝对最大值的概念，实现了优异的测试准确度。

    Oct, 2022

  • 基于单位模幂远程计算的边缘联邦学习

    本文提出了一种基于 UMAirComp 框架的的边缘联邦学习方式，该框架可利用模拟波束成形同时上传本地模型参数并更新全局模型参数，从而避免了复杂的基带信号处理，大大降低了通信延迟和实现成本。此外，还提出了一种面向非凸非光滑损失约束下的低复杂度大规模优化算法 PAM 和 AGP，并在基于 UMAirComp 框架的边缘联邦学习系统中获得较小的均方误差、训练损失和测试误差。最后，本文通过在车联网驾驶模拟平台中的测试表明，UMAirComp 系统对于自主驾驶任务比其他任务更加敏感由于自主行驶的神经网络包含更加稀疏的模型参数。

    Jan, 2021

  • 基于一比特信令的无线网络聚合通信的边缘计算联邦学习算法：设计与收敛分析

    本文提出了一种数字宽带聚合方案，称为单比特数字宽带聚合（OBDA），用以解决多设备使用同一通信媒介所带来的通信瓶颈问题，并对其在无线信道干扰下的收敛速率进行综合分析。

    Jan, 2020

  • 低延迟联邦边缘学习的宽带模拟聚合（扩展版）

    该论文提出了一种低延迟多接入方案，利用模拟聚合和多接入通道的叠加特性，实现了快速聚合模型的更新并使边缘学习具有更好的性能表现和低延迟。

    Dec, 2018

  • 面向无线联邦边缘学习的优化功率控制设计

    研究了 Air-FEEL 系统中的传输功率控制，通过最大化收敛速度的方法优化功率控制策略，并使用拉格朗日对偶方法得到了优化解，结果表明该策略比传统策略实现了更快的收敛速度。

    Jun, 2021

  • 通过无线计算进行联邦学习

    提出了一种基于超过空气计算的方法，探索了无线多接入通道的叠加属性，用于边缘机器学习中的快速全局模型聚合。

    Dec, 2018

  • 通过非相干无线计算的动态功率控制实现私有联邦学习

    在联邦学习中，通过动态功率控制的 AirComp 方案进一步保护模型权重隐私并提高模型性能，边缘设备通过激活相邻正交频分复用（OFDM）子载波传输本地随机梯度的符号，通过能量在子载波上的积累获得边缘服务器的多数表决，然后通过动态功率控制算法进一步抵消多数表决聚集值的偏差，整个方案能够减轻时间同步误差、信道衰落和噪声带来的影响，该方案的理论收敛性证明得到重新推导。

    Aug, 2023

  • 基于无线网络的空中计算联合学习

    提出了一种不需要复杂编码 - 解码方案来重建信道系数，从而提高多智能体系统中联合学习的效率和隐私保护的方法。

    May, 2023

  • 盲联邦边缘学习

    本文研究边缘设备协作学习中的无线联邦学习，其中利用无线接入点作为参数服务器，使用 “over-the-air” 聚合方案实现全局模型的积极性和设备间的协作，通过使用接收波束成形方案来补偿缺乏完美信道状态信息带来的破坏效应，证明该算法在具有足够天线数量的情况下可以改善其性能。

    Oct, 2020