Jun, 2024
并行随机梯度下降的混合方法
Hybrid Approach to Parallel Stochastic Gradient Descent
Aakash Sudhirbhai Vora, Dhrumil Chetankumar Joshi, Aksh Kantibhai Patel
TL;DR我们提出了一种介于同步和异步方法之间的混合数据并行性方法,使用这两种方法训练神经网络,通过适当选择阈值函数来逐渐从异步转为同步的参数聚合,我们证明在一定时间范围内,我们的混合方法优于异步和同步方法。