Sep, 2017
带洗牌的分布式随机梯度下降算法的收敛性分析
Convergence Analysis of Distributed Stochastic Gradient Descent with Shuffling
Qi Meng, Wei Chen, Yue Wang, Zhi-Ming Ma, Tie-Yan Liu
TL;DR本文研究了在大规模机器学习中使用随机梯度下降的数据处理方法,特别是在数据划分和洗牌上的方法,以及不同洗牌方法下的全局和局部的收敛性和收敛速率,为大规模机器学习中的数据处理方法提供了重要的理论性结果和实验验证。