无线联邦策略梯度
通过无线信道特性的迭加性以及动态调整的全局梯度更新步长,我们提出了一种适用于无线环境下的模型训练框架中 AdaGrad 和 Adam 的联邦版本。通过推导包含信道衰落和干扰影响的广泛非凸损失函数训练算法的收敛速率,我们得出了使用 AdaGrad 的算法以 O (ln (T)/T^(1-1/α)) 的速率收敛到一个静止点,其中 α 代表电磁干扰的尾指数。相比之下,类似 Adam 的算法以 O (1/T) 的速率收敛,说明它在加快模型训练过程上的优势。我们进行了大量实验证实了理论发现,并证实了我们提出的联邦自适应梯度方法的实际有效性。
Mar, 2024
通过将本地梯度归一化,改进了过程中最相关工作对于放大因子选择的假设不准确的问题,同时在平滑和强凸损失函数的情况下,提出的方法能够以次线性或线性速率收敛到稳定点,还发现了收敛速率和容差之间的权衡,并通过优化系统参数加快了收敛速度,实验结果表明该方法在收敛性能上优于基准方法。
Aug, 2023
使用过空中计算的联邦学习方法,研究了在无线网络上进行联邦学习时由于信道衰落和噪声引起的模型聚合误差,包括收敛性、影响、收敛速率、传输方案和通信效率等方面,并通过仿真验证了理论结论。
Oct, 2023
这项研究提出了一种用于解决分层联邦学习在无线网络中可扩展性和干扰、设备数据异质性的挑战的学习方法,并通过优化的接收器归一化因子来减小干扰的影响。通过使用随机几何建模多簇无线网络并将聚合估计的均方误差作为网络参数的函数进行表征,论文证明了在干扰和数据异质性的情况下,所提出的方案实现了较高的学习准确性,并且可以显著优于传统的分层算法。
Jan, 2024
本研究提出一种差分隐私 OTA-FedAvg 系统,通过对齐系数进行梯度聚合并使用通道噪声保护隐私来提高学习性能,同时设计设备调度,对齐系数和 FedAvg 执行次数以满足隐私和功率约束。通过收敛性分析和优化方法,验证了该策略的有效性。
May, 2023
研究了 Air-FEEL 系统中的传输功率控制,通过最大化收敛速度的方法优化功率控制策略,并使用拉格朗日对偶方法得到了优化解,结果表明该策略比传统策略实现了更快的收敛速度。
Jun, 2021
本文提出了一种基于聚类的两层联邦学习算法,使用可扩展的聚类无线聚合方案实现算法的上行传输,使用适用于带宽受限的广播方案进行下行传输,展示了在干扰环境下该方法的高精度学习表现并导出该方法的收敛界。
Nov, 2022