Jun, 2011
HOGWILD!: 无锁并行随机梯度下降的方法
HOGWILD!: A Lock-Free Approach to Parallelizing Stochastic Gradient Descent
Feng Niu, Benjamin Recht, Christopher Re, Stephen J. Wright
TL;DR本文研究的主要问题是如何并行化 Stochastic Gradient Descent 算法,提出了一种称为 HOGWILD!的更新策略,可以在没有锁定的情况下实现并行计算,并展示了该策略在稀疏优化问题上接近最优的收敛率。实验证明 HOGWILD!的表现比使用锁的并行化方案要高出一个数量级。