本文介绍了靠近算子在信号处理领域的应用及其在解决凸优化问题方面的基本特性,给出了基于这些算子的优化方法,并证明了这些靠近分裂方法可以在一个统一框架内捕捉和扩展多种已知算法的应用, 还讨论了在信号恢复和合成中靠近算法的应用。
Dec, 2009
该研究广义化了牛顿型方法以处理光滑函数的最小化,特别是一个包含简单近端映射的凸函数和一个非光滑函数的总和,在此基础上提出了近端牛顿型方法。研究表明,该方法即使在计算搜索方向不精确时,也能继承用于最小化光滑函数的牛顿型方法的理想收敛性质。该方法是许多针对生物信息学、信号处理和统计学习等问题量身定制的流行方法的特例,并且分析结果为其中一些方法提供了新的收敛结果。
Jun, 2012
本文针对复合优化问题中一般且高效的不精确近端拟牛顿算法,在强凸目标函数下分析了其精确和不精确执行的收敛性质,并建立了一个简单的停止标准来改善其实用性。同时,对基于 FISTA 的近端拟牛顿算法进行加速,并与传统算法进行比较和分析,结果表明加速并没有带来任何好处。
Jul, 2016
本文提出了一种加速的拟牛顿近端外推(A-QPNE)算法来解决无约束光滑凸优化问题,证明了该方法能够实现收敛速度,并且通过蒙特罗 - 斯维特加速框架的变种来构建这个方法,并采用在线学习方法更新 Hessian 矩阵的近似,这个方法在一定范围内是优于 NAG 算法的.
Jun, 2023
提出了两个针对非凸情况的数值算法,用于快速解决优化问题。该算法基于可变度量介绍了近端项,这使得我们能够针对非凸结构优化问题构建新的近端分裂算法。在变量度量序列条件温和并且假设相关增广拉格朗日函数具有 Kurdyka-Lojasiewicz 性质的情况下,证明了该算法迭代可以收敛到 KKT 点,并获得了增广拉格朗日函数和迭代的收敛速度。
Jan, 2018
提出了一种稀疏优化的通用框架,使用了二阶信息和有限的 BFGS Hessian 逼近,通过坐标下降的方法解决问题,并对其全局收敛率进行了新颖的分析。
Nov, 2013
本文引入了广义前向 - 后向分裂算法,用于最小化具有 Lipschitz 连续梯度和简单 Moreau 近似算符的凸函数 F + ∑i=1n Gi,其可以有效地解决一类重要的凸问题。我们证明了该方法的收敛性,以及对求解近似算符和梯度时的稳健性,并在成像的逆问题方面展示了该方法相对于其他分裂算法的优点。
Aug, 2011
通过使用可计算的接近算子和自共轭障碍的凸约束集,提出了一种新的关于近端和自共轭障碍概念的混合处理方法,并提出了一种非精确路径跟踪算法框架,可以有效地解决非光滑凸最小化问题,同时可以以无调谐自由的方式获得自共轭目标正则化问题的 Pareto 前沿点。
本文提出了一种 Proximal Subgradient Splitting Method 的变体,来解决 Hilbert 空间中的非光滑优化问题,其目标函数为两个非可微凸函数之和,并利用目标函数的可加性,扩展了经典的次梯度迭代法,建立了生成序列的弱收敛性,并分析了迭代的复杂度。
Oct, 2014
本文提出了一种用于极大单调算子的加速近端点算法,证明了其性能估计问题方法的计算辅助,该算法包括多种众所周知的凸优化方法,例如近端乘数法和交替方向乘数法,从而具有广泛的应用。数值实验证明了加速行为。
May, 2019