May, 2024
不完善通信信道上的分散式联邦学习
Decentralized Federated Learning Over Imperfect Communication Channels
TL;DR本研究分析了不完美通信渠道对分散式联邦学习(D-FL)的影响,并确定了每轮训练的最佳本地汇总次数,以适应网络拓扑和不完美通道。通过从需要完美通道和汇总的理想全局模型中推导出具有不完美通道的本地汇总D-FL模型的偏差,揭示了过多的本地汇总可能会积累通信错误并降低收敛性。本文还分析了基于该偏差的D-FL的收敛上限。通过最小化该上限,确定了在通道知识缺失的情况下平衡通信错误积累的最佳本地汇总次数。实验证实了我们的收敛分析,同时在两个广泛考虑的图像分类任务中确定了最佳的本地汇总次数。结果表明,在训练准确性方面,具有最佳本地汇总次数的D-FL可以比其潜在替代方案提高10%以上。