MMAug, 2019

使用部分集体操作平衡深度学习中不平衡的训练工作负载

PDF
TL;DR本文提出了一种基于分布式深度学习的负载平衡问题的解决方法 ——eager-SGD，并使用两个部分集合（solo 和 majority）来实现其分散的梯度累积，理论上证明了算法的收敛性，实验证明在负载不均衡的环境下，它比同步 SGD 获得了 1.27 倍的加速，而不会失去准确性。
distributed deep learningload imbalanceeager-sgdpartial collectivesconvergence
发现论文，激发创造
  • 弹性平均随机梯度下降的深度学习

    在通信约束之下的并行计算环境下研究深度学习的随机优化问题，提出了一种新的基于弹性力的算法，可以使本地变量更加波动以允许更多的探索，同时减少了本地工作者与主节点之间的通信，从而加快了训练速度和提高了效率

    Dec, 2014

  • 异步分散并行随机梯度下降

    本文提出了一种异步的分布式随机梯度下降算法（AD-PSGD）来解决异构环境下常用的同步算法（如 AllReduce-SGD）和参数服务器 suffer from 的问题，并且在理论分析和经验结果上证明了 AD-PSGD 在异构环境下具有良好的收敛速度和通信效率优势。

    Oct, 2017

  • 分布式深度学习的扩展方法

    该研究比较了同步和异步随机梯度下降的收敛性，针对 ImageNet 分类问题的训练，在 32 个节点以下异步 SGD 包括弹性平均和 gossiping 能更快收敛，而同步 SGD 在 100 个节点以下能更好地扩展。

    Nov, 2016

  • 去中心化深度学习的本地异步随机梯度下降

    本文主要介绍分布式深度神经网络训练算法的通信拓扑设计选择及异步去中心化算法如何通过 LASGD 实现模型同步，实验证明 LASGD 相较于 SGD 及业界领先的基于八卦协议的算法加速了大规模图像分类数据集 ImageNet 的训练速度。

    Mar, 2022

  • 分布式深度学习的随机梯度推动

    本文研究了 Stochastic Gradient Push 算法，将 PushSum gossip 算法与随机梯度更新相结合，证明 SGP 能以与 SGD 相同的亚线性速率收敛于平稳点，并且所有节点都能达成共识。研究结果在图像分类（ResNet-50，ImageNet）和机器翻译（Transformer，WMT'16 En-De）中进行了经验验证。

    Nov, 2018

  • 分布式同步 SGD 的再探讨

    本文研究了分布式训练深度学习模型时采用同步优化的可行性，发现同步优化虽然会浪费一些等待时间，但采用备用工作者的方式可以避免异步噪声并加速收敛，同时能够在保证准确性的前提下提高测试准确率。

    Apr, 2016

  • 异步分布式半随机梯度优化

    本文提出了一种基于异步随机梯度下降的快速分布式机器学习算法，采用变量规约技术，可使用常量的学习率，并保证线性收敛到最优解，在 Google 云计算平台上的实验表明，该算法在墙时钟时间和解的质量方面优于最先进的分布式异步算法。

    Aug, 2015

  • 动态小批量随机梯度下降算法用于弹性分布式训练：在资源极限中的学习

    通过动态调度不同的分布式深度学习任务，以最大化资源利用和减少成本，得到我们的 Elastic Distributed Training. 我们提出了一种名为 Dynamic SGD 的方法，可以通过平滑调整学习率来缓解噪声动量估计的影响，在图像分类，目标检测和语义分割等实验中取得了稳定的性能。

    Apr, 2019

  • 固定拓扑网络中的协作深度学习

    本研究提出一种基于共识的分布式 SGD 算法，并使用 Lyapunov 方法分析其强凸和非凸目标函数的收敛性，能够支持数据并行和去中心化计算，适用于具有通信限制的本地数据的学习代理，实验表明该算法在 MNIST、CIFAR-10 和 CIFAR-100 数据集上，能够显著优于集中式 SGD 和联合平均算法。

    Jun, 2017

  • 分布式深度学习的同步异步随机梯度下降算法

    本文提出了一种改进的异步 SGD 算法，通过梯度陈旧程度对学习速率进行调节，以提高其稳定性和收敛速度，在 CIFAR10 和 Imagenet 数据集上进行了实验验证，并证明了该算法的优越性。

    Nov, 2015