BriefGPT.xyz
Ask
alpha
关键词
smooth objectives
搜索结果 - 2
基于梯度分位数截断的鲁棒随机优化
引入了一种剪裁策略,使用梯度范数的分位数作为剪裁阈值,为平滑目标(凸或非凸)提供鲁棒且高效的优化算法,容忍重尾样本和数据中的异常值,数学分析说明了其收敛性质以及对初始估计误差的高概率界限,并通过实验证实了其高效性和鲁棒性。
PDF
9 months ago
关于 Nesterov 加速梯度方法在随机设置下的收敛性
研究了 Nesterov 加速梯度方法在随机逼近和有限和设置下的表现,发现使用通常的步长和动量参数,该方法在后者可能发散,进而阐明了这种方法在此情况下可能失败的原因。
PDF
4 years ago
Prev
Next