MMJun, 2024
基于边缘设备的分布式学习的分层梯度编码设计与优化
Design and Optimization of Hierarchical Gradient Coding for Distributed Learning at Edge Devices
Weiheng Tang, Jingyi Li, Lin Chen, Xu Chen
TL;DR通过引入边缘节点作为额外的中间层，本文探讨了在分层分布式学习系统中缓解滞后效应的问题，首先推导了工作节点的计算负载和滞后者容忍度之间的基本权衡关系，然后提出了一种层级渐进编码框架，以实现所得到的计算权衡。为了在异构场景中进一步提高我们的框架性能，我们制定了一个优化问题，旨在最小化学习过程中每次迭代的预期执行时间，并设计了一种高效算法来数学求解该问题，得到最优策略。通过大量模拟结果，证明了我们的方案相对于传统解决方案的优越性。