Mar, 2018
基于八卦通讯的异步梯度下降算法的可扩展深度学习
GossipGraD: Scalable Deep Learning using Gossip Communication based Asynchronous Gradient Descent
Jeff Daily, Abhinav Vishnu, Charles Siegel, Thomas Warfel, Vinay Amatya
TL;DR本研究提出了基于疏泊梯度下降算法的 GossipGraD 聊天协议,用于大规模系统的深度学习算法。通过优化 GossipGraD 的五个显著特征,最终实现对 ImageNet-1K 数据集的高效计算和分类。