本文提出了一种基于高斯过程（GP）和利用梯度信息的多层次收获函数的 FOBO 算法，该算法在机器学习中的应用并验证结果优于现有的方法。

Jun, 2023

我们提出了一种随机梯度框架，用于解决具有（可能）无限数量的线性包含约束条件的随机复合凸优化问题，而这些约束条件需要几乎确定。我们使用平滑和同伦技术处理约束条件，无需矩阵投影，并且通过数值实验表明，我们的算法实现了最先进的实用性能。

Jan, 2019

该研究提出了具有惯性 / 存储效应的前后向近端算法，用于在非凸环境中最小化一个不光滑函数与一个光滑函数的总和。该算法生成的迭代序列收敛于目标函数的临界点，前提是目标函数的适当正则化满足 Kurdyka-Łojasiewicz 不等式，这对于半代数函数来说是成立的。通过两个数值实验说明了理论结果：第一个实验涉及恢复非凸优化问题的本地最优解的能力，而第二个实验涉及模糊图像的恢复。

Oct, 2014

本文引入了广义前向 - 后向分裂算法，用于最小化具有 Lipschitz 连续梯度和简单 Moreau 近似算符的凸函数 F + ∑i=1n Gi，其可以有效地解决一类重要的凸问题。我们证明了该方法的收敛性，以及对求解近似算符和梯度时的稳健性，并在成像的逆问题方面展示了该方法相对于其他分裂算法的优点。

Aug, 2011

通过连接高维度的子集选择和子模块化最大化，提出一种可以直接控制特征数目的贪心算法，将标准设置下的回复保证带入一般客观函数中，并在统计上达到可接受的性能。同时，我们的课题为组合结构的统计学习应用提供了独立的兴趣联系点。

Dec, 2016

本研究探讨了正定半矩阵上凸函数的最小化问题，提出了分解梯度下降算法 (FGD) 的规则，并在标准条件下分析了其收敛性和收敛速率，同时证明了该算法在可重构矩阵分解等实际问题上的有效性，是首篇在一般凸函数下提供收敛率保证的研究。

Sep, 2015

本文介绍了一种前向 - 后向投影算法，用来最小化由两个凸函数的和组成的式子，其中一个具有 Lipschitz 连续梯度，另一个相对于主动流形部分平滑，同时给出算法迭代过程中的两个结果。结果表明该算法在包括 Lasso、group Lasso、fused Lasso 和核范数正则化等多个问题中都具有较广泛的应用价值。

Jul, 2014

本文提出了一种投影 - 无关算法 POBGA，通过在线提升梯度上升算法、不可行的投影技术和阻塞技术的新颖组合，以及分散设置的变体，有效地缩短了由先前算法 Mono-FW 降低的后悔下限，并将通信复杂度从 O（T）降低到 O（√T）。

May, 2023

我们开发了一个新的框架来研究光滑和强凸优化算法，特别是针对二次函数，我们能够将优化算法作为线性运算的递归应用程序来检查，这揭示了一种强大的联系，即一类优化算法与多项式的分析理论之间的联系，从而导出了新的下界和上界，同时我们还以多项式相关的最优解的形式表达它，从而对 Nesterov 著名的加速梯度下降方法进行了新的系统推导。

Mar, 2015

本文研究了具有仿射约束的通用凸优化模板，提出了一种新的基于平滑和增广 Lagrangian 框架统一处理的条件梯度算法，证明了该方法在目标残差和可行性差距方面具有 O (1 / 根号 k) 的收敛速率，特别适用于各种半定规划应用。

Jan, 2019