该研究提出了一种计算具有凸性 $p$- 范数的深度神经网络的点对点鲁棒性的新方法，算法 GeoCert 可以在复杂的神经网络中输出距离下界，且该方法比以前的方法更紧凑。

Mar, 2019

通过二阶信赖域算法，我们可以高效地找到满足所有局部极小值点也是全局极小值点并且任何一点的方向曲率为负的非凸优化问题的全局极小解。

Oct, 2015

本研究提出了一种非线性谱方法用于全局优化某类前馈神经网络，在弱数据假设下可以实现全局最优解，而不需要手动参数调整，这是首个实际可行的具有全局最优性保证的方法。

Oct, 2016

本文提出了第一种通用且实用的框架，用于设计可证明的算法以应对大量离群值的情况下进行鲁棒几何感知，该算法使用截断最小二乘（TLS）代价函数，TLS 估计可以重新构制为多项式环上的优化，支持证明获得 TLS 问题的全局最小值，同时也可以使用斯内尔定理进行基础缩减，使用 SOS 松弛的双优化认证器，大大减小了 SDP 优化问题的复杂度，解决了当前 SDP 求解器无法解决的大规模问题。

Jun, 2020

该论文介绍了一种通用的方案，使用最初设计用于最小化凸函数的梯度下降算法来解决非凸优化问题，该方案允许我们将这些方法用于弱凸性目标，这涵盖了机器学习和信号处理中通常出现的大类非凸函数。该方案无需假定目标函数具有凸性，而是通过自适应于未知的弱凸性常数来实现其保证。最后，本文还展示了将该方案应用于增量算法的几个实验结果。

Mar, 2017

本文提出了基于半定规划的二层神经网络的精确凸优化公式，可在多种神经网络体系结构中实现全局最优解，相比标准反向传播方法速度更快且准确性更高。

Jan, 2021

本文介绍了一种新的非均匀光滑条件下的优化方法，并开发出一种简单但有效的分析技术来限制沿轨迹的梯度，从而获得更强的凸优化和非凸优化问题的结果。我们通过这种新方法证明了（随机）梯度下降和 Nesterov 加速梯度法在这种一般的光滑条件下的收敛率，而不需要梯度剪裁，并允许在随机场景中的有界方差的重尾噪声。

Jun, 2023

本文提出了一个随机变体的经典算法 -- 立方正则化牛顿方法。该算法可以有效地避免鞍点问题，并在仅需要 $\mathcal {\tilde {O}}(\epsilon^{-3.5})$ 个随机梯度和随机海森向量乘积评估的情况下，为一般光滑的非凸函数找到近似的局部极小值。

Nov, 2017

我们开发了一个新的框架来研究光滑和强凸优化算法，特别是针对二次函数，我们能够将优化算法作为线性运算的递归应用程序来检查，这揭示了一种强大的联系，即一类优化算法与多项式的分析理论之间的联系，从而导出了新的下界和上界，同时我们还以多项式相关的最优解的形式表达它，从而对 Nesterov 著名的加速梯度下降方法进行了新的系统推导。

Mar, 2015

通过非统一的平滑性和非统一的 Lojasiewicz 不等式，提出了一些新的方法，用于更快地达到全局最优点，在强化学习和监督学习中表现出了广泛的适用性及实验效果。

May, 2021