该论文介绍了一种 V~u-Condat 算法的坐标下降版本，该算法可以解决具有可微函数、约束以及非可分、非可导的正则化器的优化问题，并且在更广泛的参数范围内比之前的方法产生了更好的收敛性能。

Aug, 2015

本文提出了一种基于随机块坐标下降和自适应步长的原始 - 对偶更新框架，用于解决具有可分结构的凸 - 凹鞍点问题，并在正则化的经验风险最小化问题上进行了实证分析，结果表明该方法具有较快的收敛速度和良好的表现。

Jun, 2015

提出一种新的随机坐标下降方法，应用广泛，采用四种新颖的思想，包括平滑、加速、同伦、坐标下降和非均匀采样，具有迭代收敛保证，数值实验表明其优于现有算法。

Nov, 2017

本文探讨了与正则化的经验风险线性预测器极小化相伴的一般凸优化问题，并将其重构为凸凹鞍点问题。我们提出了随机原始对偶坐标（SPDC）方法，该方法在随机选择的对偶变量上进行最大化和在原始变量上进行最小化之间交替运算，并通过原始变量的外推步骤以提高收敛速度。我们还开发了 SPDC 方法的小批量版本，以便实现并行计算，并在对偶变量的加权采样概率上进行了扩展，使其比非标准化数据上的均匀采样具有更好的复杂度，理论和经验表明 SPDC 方法与一些最先进的优化方法相比具有可比或更好的性能。

Sep, 2014

本文提出了一种新的自适应规则来随机选择决策变量的部分更新，以解决大规模的凸优化问题，并通过数学理论推导和数值实验加以验证。

Mar, 2017

本文提出一种新的加速梯度下降的变种，该方法不需要任何有关目标函数的信息，使用精确线性搜索进行实际加速收敛，可以根据已知的凸和非凸目标函数的下界进行收敛，具有原始对偶属性，并可在非欧几里得设置中应用。同时，我们还提出了一种适用于非平滑问题的通用方法。

Sep, 2018

本篇研究分析几种解决非凸优化问题的新方法，其中目标函数为由非凸光滑项和已知凸简单项组成的总和，提出了随机坐标下降算法，并研究了它们的收敛性质及一些最优性衡量指标。同时，还针对一般情况下的非凸复合优化问题，证明了算法所生成的序列渐近收敛到固定点，同时在某些最优性测度下期望具有亚线性收敛率，如果目标函数满足误差界限条件，则导出了目标函数期望值的局部线性收敛率，并进行了广泛的数值实验来评估算法性能和与现有方法的比较。

May, 2013

介绍了一个基于 proximal 的对偶协调上升方法，该算法框架可以用于多种正则化损失最小化问题，包括 l1 正则化和结构化输出 SVM。我们取得的收敛速度与现有最先进结果匹配并有时超过。

Nov, 2012

本文提出了一种用于解决多块凸优化问题的随机 Primal-Dual 近端块坐标更新框架，并使用其达到 $O (1/t)$ 的收敛速度，且包含现有算法的特例，以及推广至解决随机编程的问题。

May, 2016

本文介绍了一种基于近端随机对偶坐标上升方法的算法，并演示了如何使用内外迭代过程加速该方法。我们分析了该框架的运行时，并获得了改进各种关键机器学习优化问题（包括 SVM、逻辑回归、岭回归、套索以及多类别 SVM）的最新结果的速率。实验验证了我们的理论发现。

Sep, 2013