Mar, 2012

一类总变差正则化估计问题的 ADMM 算法

PDF
TL;DR本文介绍了一种交替增广 Lagrangian 方法，用于解决将代价函数拆分为变量块之间可分和相邻变量块之间可分之和的凸优化问题，并应用于基于均值变化或方差变化的数据分割中，并有效地加速了求解过程。
alternating augmented lagrangian methodconvex optimizationfused lasso estimationtotal variation denoisingmulti-period portfolio optimization
发现论文，激发创造
  • 使用双块交替方向乘子法解决多块可分凸最小化问题

    本文探讨使用交替方向乘子法（ADMM）来解决多块可分凸优化问题。提出了一种将多块问题转化为等价的二块问题来解决的策略，并分别从理论和实验结果两方面证明了其收敛性和数值效率优势。

    Aug, 2013

  • 一类非凸、非光滑问题的交替方向乘子法及其在背景 / 前景提取中的应用

    本文针对图像科学中广泛使用的一类优化问题，基于 ADMM 算法，通过使用通用的双重步长方法、构建特殊的潜函数以及采用简单的初始化策略实现了非凸优化问题全局收敛和解决，并在实际应用中进行了比较实验，表明最优化效果良好。

    Jun, 2015

  • ADMM 在非凸问题中的实证研究

    本文为非凸优化问题提供一种广泛适用的解决方法，即交替方向乘子法（ADMM），并研究了其在不同领域的实用性，包括线性回归、图像降噪、相位恢复及特征向量计算， 最近从提出的自适应 ADMM 方法可以通过自动调整惩罚参数来提高算法效率和解决质量 compared to ADMM with a non-tuned penalty。

    Dec, 2016

  • 关于交替方向乘子法线性收敛的研究

    本文研究交替方向乘子法 (ADMM) 用于多个非光滑凸可分函数的线性约束约束下极小化问题的收敛速率，通过引入一种新的与其它满足该问题的近似算法有所不同的证明手段，我们在不限制强凸性的情况下，建立了全局线性收敛性的证明方案，表明 ADMM 的线性收敛性可以在三个以上的可分函数的情况下适用，包括 LASSO，Group LASSO 和 Sparse Group LASSO 等当代应用。

    Aug, 2012

  • 一种带有转换总变差的图像分割模型

    使用基于转换的 l1 正则化的转换总变差 (TTV)，提出了带模糊成员函数的 TTV 正则化 Mumford--Shah 模型进行图像分割，并通过交替方向乘子法设计了求解算法。数值实验表明，在图像分割中使用 TTV 比传统的 TV 和其他非凸 TV 变体更有效。

    Jun, 2024

  • 一种带有不定后验项的线性约束凸组合优化的主导式 ADMM 算法

    本文提出了一种使用不确定的近似项的 ADMM 算法，以解决包含非光滑和光滑凸函数和线性约束的二块凸优化问题，并通过理论和数值实验证明了其全局收敛性和收敛速度。

    Dec, 2014

  • 并行分裂快速近端线性交替方向乘子方法

    提出快速近端改进增广拉格朗日方法 Fast PALM 和快速近端交替方向乘子方法 Fast PL-ADMM-PS 用于解决凸规划问题，成果表明与传统方法相比，算法具有更好的收敛速度和迭代复杂度.

    Nov, 2015

  • Dykstra 算法，ADMM 和坐标下降：关联，洞见和扩展

    研究 Dykstra 算法、增广 Lagrangian 方法和块坐标下降之间的联系，证明了正则化回归问题中，坐标下降与 Dykstra's 算法在对偶问题中的应用是等价的，并且 ADMM 在对偶问题中也被证明是等价的，在两集合之间的特殊情况下是一个线性子空间。这些联系除了本身很有趣外，还提出了分析和扩展坐标下降的新方法。

    May, 2017

  • 用于机器学习中可分凸程序的线性交替方向方法及并行分裂和自适应罚函数

    本研究提出了 LADMPSAP 算法，它是一种高效解决多个块的可分离凸问题的算法，可以被广泛应用于机器学习和其他领域，并且在数值实验中证明了其速度和数值准确性的优势。

    Oct, 2013

  • 广义张量分解的 ADMM-MM 算法

    该论文提出了一种面向一般线性观测模型中低秩张量逆问题的新统一优化算法，该算法支持多种低秩张量分解模型和基本损失函数，并提出了基于交替方向乘子法向和主化极小化方法的优化算法。通过该算法可以解决广泛的应用，并且可以轻松扩展到任何已建立的张量分解模型。

    Dec, 2023