信号处理中的近端分裂方法
本文提出了一种计算特定尺度规范下近似算子的凸分析方法,并利用对偶问题的分段线性特性描述了一类函数的高效实现,之后将该方法应用于凸最小化问题加速中并得到了优雅的拟牛顿方法,该算法在信号处理、稀疏恢复和机器学习分类等领域中具有广泛应用,并与现有方案相比具有较高的性能。
Jun, 2012
本文研究了一个迭代算法在具有约束的非单调集值算子中寻找零点的收敛性,这个算法被称为 proximal-projection 算法,收敛结果基于 Opial 引理的新概括。我们展示了 proximal-projection 算法可以被应用于求解仅具有近似数据的 ILL-POSED 变分不等式和凸优化问题。此外,我们证明了 proximal point 算法(具有 Bregman 距离)的收敛性在算子具有顺序弱闭图形时仍然存在。
Nov, 2007
本文引入了广义前向 - 后向分裂算法,用于最小化具有 Lipschitz 连续梯度和简单 Moreau 近似算符的凸函数 F + ∑i=1n Gi,其可以有效地解决一类重要的凸问题。我们证明了该方法的收敛性,以及对求解近似算符和梯度时的稳健性,并在成像的逆问题方面展示了该方法相对于其他分裂算法的优点。
Aug, 2011
本文回顾了使用一阶凸优化方法来解决 Benamou 和 Brenier 最初提出的离散动态最优输运问题的方法,介绍了适用于计算基于均匀空间网格上定义的分布之间的 $L^2$ 最优输运测地线的交错网格离散化方法,展示了如何使用近端分裂方法来解决结果导致的大规模凸优化问题。同时,还介绍了如何考虑更一般的成本函数,以及如何扩展该方法以在 Riemann 流形上执行最优输运。
Apr, 2013
本文提出了一种 Proximal Subgradient Splitting Method 的变体,来解决 Hilbert 空间中的非光滑优化问题,其目标函数为两个非可微凸函数之和,并利用目标函数的可加性,扩展了经典的次梯度迭代法,建立了生成序列的弱收敛性,并分析了迭代的复杂度。
Oct, 2014
通过确定一些凸势函数及其次微分,我们刻画了一类接近算子,同时提供了用于验证给定函数是否为某些罚项的接近算子的一般性测试,验证了许多知名收缩算子为接近算子,但是我们证明了两种所谓的社交稀疏收缩算子 — 窗口组稀疏 LASSO 和持久的经验 Wiener 收缩一般不是任何罚项的接近算子;
Jul, 2018
本文通过展示近端方法的一个有效框架来建模和解决涉及透视函数的问题,填补了应用数学和统计数据分析中缺乏系统策略来解决相应非平滑优化问题的空白。同时,本文通过构建近似算子并构造新算法解决了高维统计的回归和变量选择问题。
Oct, 2016
本文回顾了近端点法在大规模优化中的作用,并重点介绍了三个最新的例子:用于弱凸随机逼近的近端指导次梯度法,用于最小化凸函数和平滑映射组合的近端线性算法以及用于正则化经验风险最小化的 Catalyst 通用加速。
Dec, 2017
本文提出了一种用于极大单调算子的加速近端点算法,证明了其性能估计问题方法的计算辅助,该算法包括多种众所周知的凸优化方法,例如近端乘数法和交替方向乘数法,从而具有广泛的应用。数值实验证明了加速行为。
May, 2019
通过学习近似度度量方法,提出了一种新颖的学习优化方法,用于加速解决受限制的优化问题,对于包括广义二次规划问题在内的实际问题形式,通过不可微优化可以学习到更好的近似度度量,以增强优化算法的收敛性,并揭示了学习到的近似度度量与优化问题最优解的活动约束之间的强连接,将学习近似度度量视为一种主动集学习的形式。
Apr, 2024