Nov, 2018
适应性随机方差减少的子采样牛顿方法与立方正则化
Adaptive Stochastic Variance Reduction for Subsampled Newton Method with Cubic Regularization
Junyu Zhang, Lin Xiao, Shuzhong Zhang
TL;DR本文介绍了一种应用于非凸优化的三次正则化牛顿法,并提出了自适应方差调整的方案,通过对随机矩阵的三到四阶矩的分析来实现二阶保证,进而降低黑塞矩阵样本的复杂度。