iPiano:惯性近端算法用于非凸优化
该研究提出了具有惯性 / 存储效应的前后向近端算法,用于在非凸环境中最小化一个不光滑函数与一个光滑函数的总和。该算法生成的迭代序列收敛于目标函数的临界点,前提是目标函数的适当正则化满足 Kurdyka-Łojasiewicz 不等式,这对于半代数函数来说是成立的。通过两个数值实验说明了理论结果:第一个实验涉及恢复非凸优化问题的本地最优解的能力,而第二个实验涉及模糊图像的恢复。
Oct, 2014
本文提出一种有效的算法来解决图像恢复应用中的约束问题,包括去卷积和从压缩观测中重建图像,使用总变差或小波(或更一般的框架)正则化。该算法属于增广 Lagrange 方法的范畴,并表现出在一定条件下具有收敛性。本文的结果表明,所提出的算法在图像恢复领域中具有最先进的技术水平。
Dec, 2009
本文提出和建立了一种非精确的近端加速增广 Lagrange (IPAAL) 方法,用于解决线性约束平滑非凸复合优化问题的迭代复杂度,并证明了 IPAAL 方法在大多数 ACG 迭代中产生一个近似稳定解决方案。
Jun, 2020
该研究提出了一种基于随机梯度下降法的内点算法,用于最小化一个连续可微的目标函数,该函数可能不是凸函数,同时受到边界约束。该算法唯一之处在于通过计算随机梯度估计来计算搜索方向,以及通过正面和消失的邻域参数序列来定义可行区域内部邻域,从而迫使迭代点保持在该邻域内。数值实验结果表明,在确定性和随机设置下,该算法的性能可以超过投影 -(随机)梯度法。
Apr, 2023
我们提出了一种新的近端 - 梯度方法,用于最小化可微、可能非凸的函数加上凸、可能非可微的函数,并探讨了度量可能在每次迭代中改变,近似计算近端点并给出充分条件的可能性。我们还展示了这个方法在图像恢复问题中的竞争力。
Jun, 2015
通过使用可计算的接近算子和自共轭障碍的凸约束集,提出了一种新的关于近端和自共轭障碍概念的混合处理方法,并提出了一种非精确路径跟踪算法框架,可以有效地解决非光滑凸最小化问题,同时可以以无调谐自由的方式获得自共轭目标正则化问题的 Pareto 前沿点。
Nov, 2013
本文介绍了通过应用已知算法到原问题的复合平滑近似,获得无约束或线性约束的复合非凸凹、极小极大(因而是非光滑的)问题的近似稳定点的平滑方案。具体而言,在无约束(resp. 有约束)的情况下,通过应用作者先前提出的加速不精确近端点算法(resp. 二次罚项)到其复合平滑近似,获得原问题的近似稳态点。同时,还建立了两个平滑方案的迭代复杂度界。最后,给出了数值结果,以展示无约束平滑方案的效率。
May, 2019
本文提出了一种高效的近端梯度算法,每个迭代只需要一个不精确(因此更便宜)的近端步骤,收敛于非凸问题的临界点并具有 O (1/k) 的收敛速度,比一阶方法中非凸问题的最佳速度还要快。
Dec, 2016
提出了两个针对非凸情况的数值算法,用于快速解决优化问题。该算法基于可变度量介绍了近端项,这使得我们能够针对非凸结构优化问题构建新的近端分裂算法。在变量度量序列条件温和并且假设相关增广拉格朗日函数具有 Kurdyka-Lojasiewicz 性质的情况下,证明了该算法迭代可以收敛到 KKT 点,并获得了增广拉格朗日函数和迭代的收敛速度。
Jan, 2018
文章提出了一种惯性前向 - 后向拆分算法来计算两个单调算子之和的零点,并允许在算子的计算中存在随机误差。结果可应用于解决复合单调包含和结构化单调包含问题。
Jul, 2015