BriefGPT.xyz
Ask
alpha
关键词
adaptive warmup
搜索结果 - 1
ICML
大批量训练自动学习率调度器
本文提出了一种有效的 LR 调试算法,其中包括自适应的预热和预定义的衰减,通过高斯过程平滑的在线检查方法可以有效地训练具有大批次大小的神经网络。
PDF
3 years ago
Prev
Next