stochastic hf | BriefGPT - AI 论文速递

关键词stochastic hf

搜索结果 - 1

ICLR使用随机无 Hessian 优化训练神经网络
本文研究了利用曲率 - 向量积构建更新方向的 Hessian-free（HF）优化方法，在梯度和曲率小批量下实现的随机 HF 并添加防止过拟合的 dropout 方法，实现了介于 SGD 和 HF 之间的中间结果，对分类和深度自编码器实验都
PDF11 years ago