BriefGPT.xyz
Ask
alpha
关键词
shuffling
搜索结果 - 4
非替换式 SGD 的排序
本文探讨了基于随机排序和增量梯度下降算法收敛率的不同速度，找到一种可以提高算法非替代形式的收敛率的排序方式，通过实验数据验证了基于这种排序方式的一些优化想法在多个数据集上的效果以及在更复杂的神经网络上的应用前景。
PDF
a year ago
通过合成数据洗牌加速异构数据情况下联邦学习的收敛
本文研究了联邦学习中数据异构性的挑战，提出了通过对实验数据进行部分重洗来优化收敛率的方法。通过本文提出的理论方法，我们证明了重洗可以显着减少数据的不同之处，从而加快收敛速度，本研究提出了一种使用本地生成的合成数据进行重洗的实际方法，并证明了
→
PDF
a year ago
ICML
SMG: 具有动量的洗牌梯度方法
本文提出了一种结合了 shuffling 策略和 momentum 技术的新算法 SMG，用于解决非凸有限和优化问题，其达到了最先进的收敛速度，同时提出另一新算法与现有的 momentum 算法具有相同的收敛速度，在标准的 $L$-smoo
→
PDF
4 years ago
编码 MapReduce
本文介绍了一种名为 “编码 MapReduce” 的变体实现，旨在大大减少 MapReduce 的洗牌阶段中的服务器间通信负载，从而加快它的执行，并对 “编码 MapReduce” 的 “计算负载” 和 “通信负载” 之间的权衡进行分析。
PDF
9 years ago
Prev
Next