一种新的不精确近端线性算法,具有自适应停止准则,用于鲁棒相位恢复
通过使用可计算的接近算子和自共轭障碍的凸约束集,提出了一种新的关于近端和自共轭障碍概念的混合处理方法,并提出了一种非精确路径跟踪算法框架,可以有效地解决非光滑凸最小化问题,同时可以以无调谐自由的方式获得自共轭目标正则化问题的 Pareto 前沿点。
Nov, 2013
本文提出了一种高效的近端梯度算法,每个迭代只需要一个不精确(因此更便宜)的近端步骤,收敛于非凸问题的临界点并具有 O (1/k) 的收敛速度,比一阶方法中非凸问题的最佳速度还要快。
Dec, 2016
我们提出了一种新的近端 - 梯度方法,用于最小化可微、可能非凸的函数加上凸、可能非可微的函数,并探讨了度量可能在每次迭代中改变,近似计算近端点并给出充分条件的可能性。我们还展示了这个方法在图像恢复问题中的竞争力。
Jun, 2015
本文研究了机器学习中基于不光滑正则化的各种优化问题,并提出了三种不精确的近端梯度算法,包括基本版本和 Nesterov 加速版本。理论分析表明,我们的不精确近端梯度算法可以在非凸情况下具有和精确近端梯度算法相同的收敛速度。实验结果证实了新算法在三个代表性非凸学习问题上的优越性。
Dec, 2016
本文针对复合优化问题中一般且高效的不精确近端拟牛顿算法,在强凸目标函数下分析了其精确和不精确执行的收敛性质,并建立了一个简单的停止标准来改善其实用性。同时,对基于 FISTA 的近端拟牛顿算法进行加速,并与传统算法进行比较和分析,结果表明加速并没有带来任何好处。
Jul, 2016
本文研究了一种二次罚函数加速的不精确近端点法迭代复杂度,用于求解线性约束下的非凸组合规划问题。作者证明了该方法能够在加速梯度下降法的基础上,有效地生成近似极小点。数值结果表明该方法的有效性。
Feb, 2018
本文介绍了通过应用已知算法到原问题的复合平滑近似,获得无约束或线性约束的复合非凸凹、极小极大(因而是非光滑的)问题的近似稳定点的平滑方案。具体而言,在无约束(resp. 有约束)的情况下,通过应用作者先前提出的加速不精确近端点算法(resp. 二次罚项)到其复合平滑近似,获得原问题的近似稳态点。同时,还建立了两个平滑方案的迭代复杂度界。最后,给出了数值结果,以展示无约束平滑方案的效率。
May, 2019
本文提出和建立了一种非精确的近端加速增广 Lagrange (IPAAL) 方法,用于解决线性约束平滑非凸复合优化问题的迭代复杂度,并证明了 IPAAL 方法在大多数 ACG 迭代中产生一个近似稳定解决方案。
Jun, 2020
本文介绍了一种基于随机投影次梯度方法的弱凸(即均匀逼近正则)非光滑非凸函数的算法,并通过简单证明证明这种方法与用于光滑非凸问题的随机梯度方法具有相同的收敛速度;这似乎是第一个针对弱凸函数类的随机次(或确定性)梯度法的收敛速度分析。
Jul, 2017