高维统计中的加速块坐标近端梯度算法
在非凸优化问题中,本文研究了加速近端梯度法 (APGnc) 以及基于其的随机方差减少 (APGnc) 算法,证明了其所生成的序列的极限点是目标函数的临界点,并通过 KL 函数的性质获得了线性和次线性的收敛速率。
May, 2017
提出了一种基于 prox-linear surrogate 的原则的优化算法,证明了其全迭代序列收敛于关键点并具有较快的收敛速度,并将其应用于非凸正则化线性回归和非负矩阵分解等问题。
Oct, 2014
本文介绍了一种基于近端随机对偶坐标上升方法的算法,并演示了如何使用内外迭代过程加速该方法。我们分析了该框架的运行时,并获得了改进各种关键机器学习优化问题(包括 SVM、逻辑回归、岭回归、套索以及多类别 SVM)的最新结果的速率。实验验证了我们的理论发现。
Sep, 2013
本文介绍了新的随机方法来解决两个重要的非凸优化问题,其中引入了随机加速远程梯度 (RapGrad) 方法和随机加速远程对偶 (RapDual) 方法来减少计算开销和块数,实验结果表明这些算法具有优势。
May, 2018
本文提出一种新的针对分离结构和非强凸函数的凸凹鞍点问题的高效随机块坐标下降方法,采用自适应原始 - 对偶更新方法,可灵活地并行优化大规模问题。该方法在多个机器学习应用中均有显著提高,包括鲁棒主成分分析、Lasso 和通过组 Lasso 进行特征选择等。在理论和实际上,我们证明了该方法在所有这些应用中都具有明显优势。
Nov, 2015
本篇论文提出了一种新的随机坐标下降方法,能够并行、加速和提高期望可分超逼近,此方法能够同时最小化依赖于少数坐标的多个凸函数的和,通过使用新的安全且大的步长,使得该方法不需要执行完整的矢量运算。
Dec, 2013
本文研究了一种二次罚函数加速的不精确近端点法迭代复杂度,用于求解线性约束下的非凸组合规划问题。作者证明了该方法能够在加速梯度下降法的基础上,有效地生成近似极小点。数值结果表明该方法的有效性。
Feb, 2018
本文介绍了一些带有或没有耦合的非凸优化模型,使用了相关的优化算法,如条件梯度和 ADMM, 为专门处理非凸和非光滑优化问题的理论和算法的发展提出了一步。通过数值实验,证明了这些算法的高效性,特别是在张量鲁棒 PCA 的场景下。
May, 2016
我们扩展了 Approximate-Proximal Point 方法,在随机凸优化问题中应用包括随机次梯度、近端点和束方法,同时提出了更快的模型算法和加速方案,保持了 Approximate-Proximal Point 算法的鲁棒性,同时提供了更快的收敛速度和更低的界限。我们通过实证测试证实了理论结果的可行性。
Jan, 2021