无线异构条件下的偏倚空中联邦学习

MMMar, 2024

无线异构条件下的偏倚空中联邦学习

Biased Over-the-Air Federated Learning under Wireless Heterogeneity

Muhammad Faraz Ul Abrar, Nicolò Michelusi

TL;DR近期，无线通道超插值特性在 Over-the-Air（OTA）计算中被应用于快速模型更新的有前景的联邦学习（FL）范式。本文针对 OTA-FL 收敛进行了 OTA 设备预缩放器的设计研究，并通过数值评估表明，最小化 FL 更新的方差并允许一定偏差的 OTA 设备预缩放器可以带来显著的收益。

Abstract

Recently, Over-the-Air (OTA) computation has emerged as a promising federated learning (FL) paradigm that leverages the waveform superposition properties of the wireless channel to realize fast model updates. Prior work focused on the OTA device ``pre-scaler" design under \emph{homogeneous} wireless conditions, in which devices experience the same average pa

over-the-air computation federated learning ota device pre-scalers heterogeneous wireless settings fl updates

发现论文，激发创造

异构数据的无线联邦学习

本文介绍了一种名为 Convergent OTA FL 的 Federated learning 算法，通过引入预编码和缩放，逐步缓解了 OTA FL 中通道噪声对优化过程的影响，并分析了其收敛率和在统计异构设置下的效果。

Sep, 2020

空中联邦学习：现状、挑战和未来方向

本文综述了 OTA-FL 技术的发展和应用，并从系统设置、安全与隐私等方面对 OTA-FL 进行分类和分析，提出了未来 OTA-FL 系统性能、可靠性和可信度的挑战和发展方向。

Jul, 2023

个性化面向个性化重构智能表面的无线联邦学习

我们提出了第一个个性化的 OTA-FL 方案，通过多任务学习以及用户个人可重构智能表面（RIS）的协助，平衡了具有不同数据集的用户的性能，解决了现实生活中数据异质性问题。我们的 PROAR-PFed 算法通过优化通信和计算资源，针对时变信道中的全局和个性化任务，在非独立同分布数据的情况下，自适应地设计功率、本地迭代和 RIS 配置。通过收敛性分析，我们证明 PROAR-PFed 在 Fashion-MNIST 数据集上胜过现有的最先进方法。

Jan, 2024

通过近似计算的混合精度无线联邦学习

我们提出了一种基于近似计算的 OTA-FL 框架，通过优化量化性能平衡、开发异构梯度分辨率 OTA-FL 调制方案，实现了异构边缘计算环境中的 OTA-FL，并能够以 50% 更快和更平滑的服务器收敛速度和性能增强方式，比同质化精度方法更好地满足最低精度客户的要求。

Jun, 2024

如何协调边缘设备进行空中联邦学习？

本研究旨在探究无线网络中的设备协调问题对于 OTA-FL 的影响，通过研究最优方案的特性，提出了一种低复杂度算法以逼近最优方案。

Nov, 2022

模拟数字调度在联邦学习中的应用：一种高效通信的方法

通过调度大部分设备使用 OTA 方案，同时偶尔使用数字方案来训练机器学习模型，ADFL 方案在 i.i.d 和非 i.i.d 环境中始终优于仅使用 OTA 和仅使用数字方案。

Feb, 2024

无线联邦学习与优化

使用过空中计算的联邦学习方法，研究了在无线网络上进行联邦学习时由于信道衰落和噪声引起的模型聚合误差，包括收敛性、影响、收敛速率、传输方案和通信效率等方面，并通过仿真验证了理论结论。

Oct, 2023

有限功耗和隐私预算下的无线联邦平均化

本研究提出一种差分隐私 OTA-FedAvg 系统，通过对齐系数进行梯度聚合并使用通道噪声保护隐私来提高学习性能，同时设计设备调度，对齐系数和 FedAvg 执行次数以满足隐私和功率约束。通过收敛性分析和优化方法，验证了该策略的有效性。

May, 2023

面向无线联邦学习的通道和梯度重要性感知设备调度

本研究提出一种名为 PO-FL 的概率设备调度框架，以缓解通道噪声的负面影响，在模型对聚合过程中使用该概率重量进行重新加权，通过经验分析得出结论：设备调度通过通信失真和全局更新方差影响学习性能。通过基于收敛性分析，进一步开发了基于渠道和梯度重要性感知的算法，以优化 PO-FL 中的设备调度概率。广泛的仿真结果表明，基于渠道和梯度重要性感知的 PO-FL 框架可以实现更快的收敛速度，并产生优于基准方法的模型。

May, 2023

具备干扰和数据异质性认知的分层无线联邦学习

这项研究提出了一种用于解决分层联邦学习在无线网络中可扩展性和干扰、设备数据异质性的挑战的学习方法，并通过优化的接收器归一化因子来减小干扰的影响。通过使用随机几何建模多簇无线网络并将聚合估计的均方误差作为网络参数的函数进行表征，论文证明了在干扰和数据异质性的情况下，所提出的方案实现了较高的学习准确性，并且可以显著优于传统的分层算法。

Jan, 2024