凸聚类分裂方法
本文针对图像科学中广泛使用的一类优化问题,基于 ADMM 算法,通过使用通用的双重步长方法、构建特殊的潜函数以及采用简单的初始化策略实现了非凸优化问题全局收敛和解决,并在实际应用中进行了比较实验,表明最优化效果良好。
Jun, 2015
本文探讨使用交替方向乘子法(ADMM)来解决多块可分凸优化问题。提出了一种将多块问题转化为等价的二块问题来解决的策略,并分别从理论和实验结果两方面证明了其收敛性和数值效率优势。
Aug, 2013
本文分析了交替方向乘子法(ADMM)在非凸优化中的收敛性,并提供了针对特定情形的收敛保证。同时,通过例子和分析,本文表明 ADMM 有望比增广拉格朗日方法(ALM)更适用于某些非凸非光滑问题。
Nov, 2015
聚类是数据科学和机器学习中最基本的工具之一,k-means 聚类是最常见的方法之一。本文研究了低维数据实例的 k-means 问题,并将其表示为结构化的凸分配问题,利用低维结构解决大数据集的问题。该方法结合了全局优化理论的方法来加速处理程序,并提供了性能的数值结果。
Feb, 2024
该研究分析了 ADMM 算法在解决一些非凸共识和共享问题时的收敛性,发现当增广拉格朗日乘数的惩罚参数足够大时,经典 ADMM 算法会收敛到静止解的集合。对于共享问题,我们发现 ADMM 无论变量块的数量如何,都是收敛的。该分析不对算法生成的迭代强加任何假设,并且广泛适用于涉及近端更新规则和各种灵活的块选择规则的 ADMM 变体。
Oct, 2014
该研究提出了一种基于交替方向乘子法 (ADMM) 的非凸稀疏谱聚类算法,直接对 $UU^ op$ 施加稀疏正则化,该算法具有收敛保证和高效性,实验结果验证了其有效性。
Dec, 2017
提出了 Gauss-Seidel ADMMs 和 Jacobian ADMMs 框架及其收敛分析。我们展示了这些框架可以通过最小化可分离 majorant 替代加强本来只可以解决可分离问题的 ADMMs。我们还介绍了几种提高 ADMM 效率的技术,特别地,我们提出了 M-ADMM,它通过吸收 Gauss-Seidel ADMMs 的特点来缓解 Jacobian ADMMs 的缓慢收敛问题。在理论保证和数值实验方面,我们的新 ADMMs 表现优越。此外,我们还发布了一个工具箱,其中包含了很多压缩感知问题的高效 ADMMs 的实现。
Jul, 2016
本文研究交替方向乘子法 (ADMM) 用于多个非光滑凸可分函数的线性约束约束下极小化问题的收敛速率,通过引入一种新的与其它满足该问题的近似算法有所不同的证明手段,我们在不限制强凸性的情况下,建立了全局线性收敛性的证明方案,表明 ADMM 的线性收敛性可以在三个以上的可分函数的情况下适用,包括 LASSO,Group LASSO 和 Sparse Group LASSO 等当代应用。
Aug, 2012
本文提出一种结合 Alternating minimization(AM)和 Nesterov's acceleration 的自适应加速交替最小化算法,可用于解决具有凸性和非凸性的优化问题,同时不需要任何有关问题的凸性或函数参数等知识。通过证明该算法的收敛速度,得出该方法是自适应且优化的。此外还为具有线性约束的强凸问题开发了其原始 - 对偶修改。
Jun, 2019
提出快速近端改进增广拉格朗日方法 Fast PALM 和快速近端交替方向乘子方法 Fast PL-ADMM-PS 用于解决凸规划问题,成果表明与传统方法相比,算法具有更好的收敛速度和迭代复杂度.
Nov, 2015