基于贝叶斯的无线网络联邦学习
通过提出一种半联合学习(SemiFL)范式,将基站(BS)和设备的计算能力结合起来,实现集中式学习(CL)和联邦学习(FL)的混合实施。通过设计一种新颖的收发器结构,将空中计算和非正交多址接入应用于聚合和传输,提高了通信效率,并证明了 FL 和 CL 是 SemiFL 的特例。然后,通过联合优化发送功率和接收波束形成器来减小最优性差距,并提供了解析解。两个真实数据集上的广泛模拟实验结果证实了我们的理论分析,并显示相比于最先进的基准,所提出的 SemiFL 在 MNIST 数据集上取得了 3.2% 的准确度提高。
Oct, 2023
本文是一项关于贝叶斯联邦学习(BFL)的问题与应用的调查研究,旨在解决分布式基础设施、通信、计算和隐私保护等问题,讨论客户端、服务端和基于 FL 的 BFL 方法,并提出了 BFL 研究的未来发展方向。
Apr, 2023
本文旨在通过在上传之前对本地模型参数进行量化,最小化联邦学习的总收敛时间,以保证在所有全局轮次中的最小收敛时间。我们利用随机量化对 FL 算法的收敛性进行了收敛分析,同时综合优化了计算,通讯资源和量化比特数,以保证在所有全局轮次中的最小收敛时间,同时满足能源和量化误差的要求。我们对量化误差对收敛时间的影响进行了评估,并揭示了模型准确性与及时执行之间的平衡。此外,所提出的方法被证明与基线方案相比,可以加速收敛速度,并为量化误差容忍度的选择提供有用的见解。
Mar, 2022
该研究提出了一种使用二进制神经网络在联邦学习框架下进行训练的新方法,通过最大似然估计参数更新方案和理论推导,实现在无需聚合实值辅助参数的情况下,维持性能同时显著降低通信开销。
Oct, 2021
本文旨在将联邦学习引入未来无线网络的设计中,为了在移动设备上进行能源高效的联邦学习提出了一种新颖的无线传输和权重量化的联合设计方法。通过建立混合整数规划问题,制定了灵活的权重量化计划,以最小化所有移动设备的联邦学习总能耗(计算 + 传输),同时保证模型性能和训练延迟。通过大量的模拟实验,验证了该方案的有效性。
Dec, 2020
用于解决联邦学习中数据隐私问题导致的设备端数据无法被中心服务器使用的问题,本文提出了一种基于估计方案的设备选择算法,以最小化类别不平衡来提高联邦学习全局模型的收敛性能。
Nov, 2020
本文提出了一种在无线边缘设备间通过分布式学习模型的联合训练方式,使用 Decentralized Stochastic Gradient Descent 协议实现设备间协同训练,通过适应路径损耗、衰落、阻挡和干扰等因素的技术,在物理层上利用稀疏基础恢复实现了无线波传输和计算的处理。
Feb, 2020
本文提出了一种无线 FALD 协议(WFALD),通过实现空气中的计算和无线信道抽样以进行蒙特卡罗更新,实现了 FALD 在无线系统中的实现,该协议通过小批量计算随机梯度,并分别属于 Bayesian learning 和机器学习中的联邦学习领域,通过分析和实验显示,当信噪比足够大时,无线 Bayesian 学习的通道噪声可以被充分利用,因此不会损失性能。
May, 2023
联邦学习提供了一种隐私保护的协作方法,用于无线网络中的模型训练,其中通道估计是一种具有潜力的应用。本文分析了联邦学习在通道估计中的安全漏洞,并提出了相应的解决方案,通过模拟进行了验证。
Apr, 2024