研究了基于Nesterov的对偶平均算法的随机优化算法，在预期损失是强凸的且最优解是（近似）稀疏的问题上进行优化，证明了在局部Lipschitz损失下，在T轮迭代后，我们的解决方案的误差最多为O（（slogp）/T），并确立了我们的收敛率是最佳的，且在数值模拟中通过对最小二乘回归问题进行几个基准线的比较，证实了我们方法的有效性。

Jul, 2012

本研究给出了一个Lojasiewicz不等式的指数估计，证明了一类线性搜索方法的收敛性。该方法可用于解决许多科学和工程领域的矩阵优化问题，例如二次优化问题和正交性约束问题。

Oct, 2015

该论文提出了一种基于Mirror-Prox算法的普适性算法，适用于具有噪声和非噪声数据以及平滑和非平滑函数的情况。算法通过适应性步长的选择来处理相关的约束问题，可以用于解决凸最小化和凸-凹鞍点问题等应用。

Feb, 2019

我们介绍了MOPES方法和MOLES方法，用于在具有昂贵的投影和线性最小化查询的情况下，高效地寻找在强凸约束集上的次优解。 MOPES方法通过Moreau-Yosida平滑和加速的一阶方案结合，并通过仅需O(ε ^ -1)投影查询和最少的O(ε ^ -2)函数值查询即可找到次优解。 MOLES方法仅具有线性最小化查询，但需要更多的函数值查询。

Oct, 2020

本文提出了张量随机投影（TRP）的新用法，TRP映射是由多个较小的随机投影的Khatri-Rao乘积形成的，与任何基础随机投影兼容，包括稀疏随机投影，它可以在非常低的查询成本和无浮点操作的情况下进行维数缩减。作者提供了TRP的偏差和方差的理论分析，并对由两个小地图组成的TRP进行了非渐近误差分析。结果表明，与传统方法相比，该方法具有更少的存储空间，但表现相同，实验数据包括合成数据和MNIST数据。

Apr, 2021

本文提出了适用于具有各种设置的函数约束VI问题的新型一阶方法，包括具有随机算子和/或随机约束的平滑或非平滑问题。通过使用算子和约束的外推来更新变量和Lagrange乘子，我们的算法能够实现最优操作员或样本复杂度。对于平滑的确定性问题，我们还提出了一种新的单循环自适应Lagrangian外推方法，可以自适应地搜索和显式地绑定Lagrange乘子。此外，我们的算法可以轻松地扩展到具有耦合函数约束的鞍点问题。

Apr, 2023

本研究提出了一个简单的原始方法，称为约束梯度法（CGM），以解决具有功能约束的变分不等式问题，并建立了非渐近收敛性分析，同时利用基于二次规划的更便宜的预算。

Mar, 2024

该论文研究了随机受限多层优化的无投影算法。介绍了新的无投影方差缩减算法并分析了它们在不同条件下的复杂性，包括梯度映射和Frank-Wolfe间隙准则，并通过分阶段适应进一步获得了凸函数和强凸函数的复杂性，数值实验证明了该方法的有效性。

Jun, 2024

提出了一种通过最小化维度对数Sobolev不等式和KL散度，以识别目标与参考测度之间的近似关系的方法，该方法适用于高维概率测度的低维结构识别和有效抽样。

Jun, 2024

本研究解决了高维贝叶斯优化中的高昂和不可行性问题。提出了一种新颖的凝聚-扩展投影贝叶斯优化方法（CEPBO），该方法不依赖于有效子空间假设，同时在实现上也较为简单。实验结果显示，此方法在大多数情况下优于现有的随机嵌入算法，对高维优化问题具有更好的性能。

Aug, 2024