本文研究了平滑的非凸有限和优化的下界，并证明了在不同设置下找到 ε- 次优点和 ε- 近似稳定点的复杂度的严格下界，以及一些现有算法的最佳增量一阶预测器（IFO）复杂度。

Jan, 2019

本文提出了优化 n 个 L-smooth、强凸函数总和的下界，并将其与先前的方法进行比较。在随机数据情况下，我们将这些复杂度结果与用于直接优化总和的最优一阶方法进行对比。研究发现需要谨慎进行准确比较，并确定新方法在机器学习场景中的帮助计算能力。

Oct, 2014

本文研究了一种优化问题，在多项式朗托泽维奇条件下，通过梯度方法在分布式环境中找到次优解，提出了一个去中心化一阶方法，并给出了相应的下界。

Feb, 2024

通过使用分量函数的梯度和 prox oracles 提供了最小化 m 个凸函数平均值的复杂性的严格上下界；我们表明决定性和随机优化之间存在显着差距。对于光滑函数，我们表明在确定性和随机设置中，加速梯度下降 (AGD) 和 SVRG 的加速变体分别是最优的，并且梯度 Orcale 足以获得最佳速率。对于非光滑函数，通过接入 prox oracles 可降低复杂度，因此，我们提出基于平滑的最优方法，以改进仅使用梯度访问的方法。

May, 2016

通过量子计算，我们提出了一个具有改进复杂性的量子算法来解决有限和优化问题，使得我们可以找到一个 ε- 最优解点。

Jun, 2024

提出了一种称为连续有限和最小化的方法，通过使用第一阶段随机方差减少梯度法（CSVRG）生成近似最优解的序列，改进了有限和最小化问题的复杂度。

Jun, 2024

该论文研究了一种用于解决机器学习中优化非凸或凸组合测度 / 目标的随机算法，并提供了适用于非凸和凸目标的收敛分析。其中用到的算法是基于移动平均估计器的，且还提供了可以提高实现精度的新方法。

Feb, 2022

应用机器学习方法解决针对敌对鲁棒性或多主体环境产生的博弈均衡问题，提出了基于有限和结构的方法。使用方差缩减技术改进了经典的 Halpern 迭代，通过在求和中的组分算子上引入可比较的 cocoercive 或 Lipschitz 连续单调性，取得了性能改进。所提出的方法具有可验证的退出准则，并且在最后迭代次数和（可计算的）操作符范数残差方面提供了保证。其 oracle 复杂性为 $𝜃(𝑛+√𝑛𝐿𝜖^{-1})$，相较于现有方法提升了多达√𝑛倍，将方差缩减引入到通用有限和单调包含问题和具体问题中，如算子范数残差是最优性度量的凸 - 凹优化，创造了一项新的成果。进一步论证表明，在单调 Lipschitz 设置中，除去多项式对数因子，这种复杂性是无法被改进的，即提供的结果几乎是最优的。

Oct, 2023

本文针对一个类别的复合非凸非光滑优化问题，通过使用两个不同的一阶预言机，在最优性公差 ϵ>0 的情况下建立 FOMs 的下界复杂性界，并提出一个非精确近端梯度法来解决该问题。所提出的 IPG 方法的预言机复杂度与我们建立的下界匹配。

Jul, 2023

介绍了优化机器学习问题的几种新方法，包括针对有限和图结构目标的优化方法，其中包括针对固定结构的参数学习、结构学习和同时学习等方法。

Oct, 2015