Oct, 2023

基于广播的子图采样的无线网络分布式学习

TL;DR该研究探讨了分布式学习在无线网络中的通信方面,使用基于共识的分布式随机梯度下降法(D-SGD)。为了实现算法的快速收敛性,我们提出了一种名为 BASS 的高效通信框架,其中利用广播传输和概率子图抽样,在每次迭代中激活多个无干扰节点的子集将模型更新广播给它们的邻居。与现有的基于链路调度方法相比,在无线信道的广播特性下,利用相同数量的传输时间槽创建更多的通信链路能够加快分布式学习的收敛速度。