BriefGPT.xyz
Ask
alpha
关键词
tail-index
搜索结果 - 1
均值随机梯度下降中的重尾出现
通过对连续扩散逼近的随机梯度下降进行分析,我们发现它在渐近意义下表现出重尾分布,并给出了尾指数的上下界。我们通过数值实验验证了这些界限,并显示它们通常是 SGD 迭代的经验尾指数的近似。此外,这些界限的显式形式使我们能够量化优化参数与尾指数
→
PDF
5 months ago
Prev
Next