BriefGPT.xyz
Ask
alpha
关键词
median-based algorithms
搜索结果 - 1
异构数据的分布式训练:连接中位数和基于平均值的算法
本文研究介绍了两种分布式非凸优化算法:signSGD 和 medianSGD,并发现它们在数据异构的情况下是不收敛的。作者提出了一种梯度校正机制来消除梯度的平均值和中位数之间的差异,该方法保留了这些方法的良好性质,并实现了全局收敛。此外,该
→
PDF
5 years ago
Prev
Next