Nov, 2018
随机原始-对偶法用于经验风险最小化,每次迭代复杂度为O(1)
Stochastic Primal-Dual Method for Empirical Risk Minimization with
$\mathcal{O}(1)$ Per-Iteration Complexity
TL;DR本文提出了新的随机原始对偶算法,用于解决具有线性预测器的正则化经验风险最小化问题。通过泰勒展开、凸组合和割平技巧得到具有较优复杂度和收敛性质的算法,进一步提出了方差减少版算法和数值实验表明该算法在高维问题上优于现有算法,收敛速度更快。