讨论非欧几里得确定性和随机算法，解决强凸和一致凸的优化问题，提供算法性能的准确性界限，设计针对强或一致凸性参数的自适应方法：在总迭代次数 $N$ 固定的情况下，它们的准确度与最优算法的准确度相同，直到 $N$ 的对数因子。

Jan, 2014

本文介绍了一种新的一阶原始 - 对偶优化框架，利用平滑、加速和同伦等三个经典思想，实现了具有许多广泛应用的凸优化，达到了最佳的收敛效果，针对只包含非平滑函数的情况。同时提供了重新启动策略，大大提高了实际性能，并展示了与增广拉格朗日方法的关系以及如何利用严格收敛率保证来利用强凸目标。最后提供了两个实例验证，表明新的方法可以优于 Chambolle-Pock 和交替方向乘法算法等现有的算法。

Jul, 2015

本文介绍了一种随机外推的原始 - 对偶坐标下降方法，它适应数据矩阵的稀疏性和目标函数的有利结构，更新了仅包含稀疏数据的一小部分原始和对偶变量，并使用较大的步长和密集数据，保留了为每种情况设计的特定方法的优点。此外，我们的方法不需要任何修改即可适应稀疏性，在有利的情况下获得快速收敛保证，特别是我们证明了在度规亚正则情况下的线性收敛，这适用于强凸强凹问题和分段线性二次函数。我们显示了序列的几乎确定收敛和原始 - 对偶间隙和目标值的最优亚线性收敛率，在一般凸凹情况下。数值证据证明了我们的方法在稀疏和密集环境中的最新实证表现，与现有方法相匹配和改进。

Jul, 2020

本文提出了一种基于原始 - 对偶平滑框架的方法，用于寻找一类非光滑非凸优化问题的近似稳态点，并通过两种方法，即先对偶后原始和先原始后对偶平滑方法分析了框架的原始和对偶梯度复杂度。通过一个新开发的非 Hilbertian 不精确加速近端梯度算法来解决一类（强）凸 - 凹鞍点问题，进一步改进了已有方法的最佳 oracle 复杂度，并讨论了其变体和扩展。

Mar, 2020

本文提出了一种基于对偶探索方法的普适梯度优化算法 UnderGrad，可以在无需先验知识的情况下，对包括具有适应性 Lipschitz 光滑性和随机梯度代价的问题进行高效求解。

Jun, 2022

本文研究了一类非光滑的分散式多智能体最优化问题，该代理旨在最小化局部强凸光滑组成部分和一个共同的非光滑项。我们提出了一个通用的原始对偶算法框架，统一了许多现有的最先进的算法。我们在非光滑项存在的情况下，证明了所提出的方法向确切解的线性收敛。此外，对于更一般的具有代理特定非光滑术语的问题类，我们展示了使用光滑和非光滑部分的梯度和临界映射的算法类别的线性收敛在最坏的情况下无法实现。我们进一步提供了一个数字反例，展示了某些最先进的算法如何在强凸目标和不同的局部非光滑项的情况下无法线性收敛。

Sep, 2019

本文提出了一种原始 - 对偶算法框架，以获得近似解决方案来解决典型的约束凸优化问题，并严格描述了常见结构假设如何影响数值效率。通过选择双重平滑策略和中心点，我们的框架将分解算法、增广 Lagrange 以及交替方向乘子方法作为其特殊情况，并为所有迭代的原始目标残差和原始可行性间隙提供最优收敛速率。

Jun, 2014

本书集合了很多关于梯度下降方法的不同而有用的知识点，包括带不精确 oracle 的梯度下降法、复合优化方法、proximal 方法，研究它们在普遍模型中的原始 - 对偶属性，最后将方法推广到通用的方法。

Nov, 2017

本文介绍了多步优化算法的收敛加速方案，并使用 Chebyshev 问题模拟了迭代过程中的行为，同时讨论了该方案在原始 - 对偶算法中的应用，并在逻辑回归问题中进行了数值实验。

Oct, 2018

提出一种新的随机坐标下降方法，应用广泛，采用四种新颖的思想，包括平滑、加速、同伦、坐标下降和非均匀采样，具有迭代收敛保证，数值实验表明其优于现有算法。

Nov, 2017