本文提出了一种新的方法 —— 加速镜像近端（AMP）方法，用于计算一类确定性和随机单调变分不等式的弱解，该方法将多步加速方案融入到镜像近端方法中。对于确定性和随机 VI，AMP 方法计算出最佳收敛速度的弱解。特别地，如果 VI 中的单调算子由平滑函数的梯度组成，则 AMP 方法的收敛速度估计中的 Lipschitz 常数可以加速。对于有界可行集的 VI，AMP 方法的收敛速度估计取决于可行集的直径。对于无界 VI，我们采用 Monteiro 和 Svaiter 引入的修改间隙函数，证明了 AMP 方法的收敛速度取决于初始点到强解集合的距离。

Mar, 2014

该论文提出了一种基于 Mirror-Prox 算法的普适性算法，适用于具有噪声和非噪声数据以及平滑和非平滑函数的情况。算法通过适应性步长的选择来处理相关的约束问题，可以用于解决凸最小化和凸 - 凹鞍点问题等应用。

Feb, 2019

我们介绍了一种不精确的 VI 正演算子模型，提出了一种数值方法来解决此类 VI 问题，并分析其收敛速度。我们还考虑了强单调算子的情况，并将我们的方法推广到具有不精确正演算子和 H"older 连续偏次梯度的凸凹鞍点问题。

Jun, 2018

该研究提出了一种随机近端点方法来解决随机凸复合优化问题，通过仅假设随机梯度的方差有界等较弱条件，建立了对于该方法收敛的高概率保证的低样本复杂度。此外，本研究的一个显著特点是开发了一个用于解决近端子问题的子程序，该子程序还作为一种新的方差减小技术。

Feb, 2024

本文介绍了一种针对单调变分不等式问题的全显式算法，该算法使用计算变量步长的方法来近似本地 Lipschitz 常数，每次迭代只需要评估单调算子 $F$ 和一个 proximal 映射 $g$，并且如果 $F，g$ 满足误差条件，则该方法表现出的收敛速度是 $O (1/k)$ 和 $R$ 线性速度，可以应用于不同类型的固定点问题。

Mar, 2018

本文研究随机算法优化非凸、非光滑的有限和问题。针对此问题，本文提出快速的随机算法，可获得常数迷你批量的收敛性。本文还使用这些算法的变种，证明了比批量近端梯度下降更快的收敛性，并在非凸、非光滑函数的一个子类中证明全局线性收敛率。

May, 2016

提出了一种多级方案来逐渐减少随机梯度方差的新的近端随机梯度方法，用于解决平滑组件函数的平均和简单近端映射的一般凸函数总和的极小化问题。

Mar, 2014

本文提出一种基于变量规约的 Proximal 随机梯度下降算法 (ProxSVRG+), 该算法在非凸性和非光滑性优化问题上具有更好的性能，并在收敛性分析方面比之前的算法更加全面和普适性更强。

Feb, 2018

本文介绍了一种基于随机投影次梯度方法的弱凸（即均匀逼近正则）非光滑非凸函数的算法，并通过简单证明证明这种方法与用于光滑非凸问题的随机梯度方法具有相同的收敛速度；这似乎是第一个针对弱凸函数类的随机次（或确定性）梯度法的收敛速度分析。

Jul, 2017

VRMPO 算法提出一种新颖的方差缩减的策略梯度估计器，使用随机镜像下降方法提高样本利用效率，并通过推导证明只需要 O（ϵ−3）个采样轨迹即可达到 ϵ- 近似一阶稳定点，从而超越了各个领域最先进的策略梯度算法。

Jun, 2019