本文通过差分方程和随机微积分的连续时间分析视角，研究离散时间问题，提出了一个连续时间、无需参数算法，并开发了一个类似的离散算法，最后提出了一个任意时间的算法以应对最难情况，并给出了一些令人满意的实验证据。

Jun, 2022

本文的研究内容是针对随机优化问题中在决策变量变化时数据分布的变化所导致的问题提出了解决方案，即通过基于静态分布的最优决策来解决。同时，为了提高算法效率，研究者将典型的随机优化算法应用在了这种问题上，并提供了收敛性保证和性能评估，最终提出了增加算法效率、减少决策规则代价的改进方法。

Nov, 2020

本文提出一种基于预测和修正步骤的算法，采用离散时间采样方案，在每个时间步长采样一次问题数据，以找到和跟踪解轨迹，用于无约束凸优化问题，并且在某些情况下，渐近误差仅为 O（h ^ 2），大大优于梯度校正步骤仅误差为 O（h）的现有技术。

Sep, 2015

本文提出了一种使用对数障碍惩罚函数的内点法解决具有时变目标和约束函数的凸优化问题的方法，并提出了一种能够跟踪（时变）最优解的连续时间动力系统来确保其全局渐近收敛于指数速度的最优解。

Aug, 2016

本文研究了使用时差学习算法评估连续时间进程的策略评估问题，并根据随机微分方程的时间离散化来学习连续值函数。通过为差分学习提供零均值修正，我们提出了一种鲁棒的算法，包括两种算法：一种是基于模型的算法，另一种是基于无模型的算法，其收敛性得到了证明。此外，该方法还可用于机器学习中求解非发散二阶椭圆方程的问题。

Feb, 2022

本文研究随机程序的优化问题，其中决策者不能观察到外生不确定性的分布，但可以访问此分布的有限样本。作者提出了一种元优化问题来找到最不保守的预测器和处方器，以及遵守它们的样本外失望约束。利用大偏差理论的工具，作者证明了该元优化问题有唯一解。最佳预测器 - 处方器对可以通过在距离数据的经验分布一定的相对熵距离内的所有分布上求解一个分布的鲁棒优化问题来获得。

Apr, 2017

本文针对线性预测器的迭代定点方法（特别是随机和批量镜像下降法及随机时间差分学习），提供了测试误差界限。主要贡献包括：通过单一证明技巧对收敛和非收敛状态下具有高概率保证的拟合损失进行统一处理，以无需投影、正则化或任何等效手段，适用于具有二次界限的损失（如平方和逻辑损失），并基于低范数预测器的特性提供局部自适应率。证明技巧采用基本且多功能的耦合论证法，在多种设置中进行了演示。

Feb, 2022

该文主要研究基于梯度的优化算法中的延迟随机梯度信息的收敛性，以及如何应用于分布式优化算法中克服通信瓶颈和同步要求的问题，结果表明在平滑随机问题中，延迟是渐近可以忽略的，且能达到最优收敛效果。

Apr, 2011

针对多台异步运行的机器共同访问的内存环境下的随机凸优化问题，我们提出了一种鲁棒的约束训练方法，其非渐近收敛保证不依赖于更新延迟、目标平滑度和梯度方差的先验知识。与此相反，现有方法严重依赖于这些先验知识，因此不适用于所有共享资源的计算环境，如云和数据中心。与现有方法不同，我们的方法可以隐含地适应动态分配机器所带来的延迟变化。

Jun, 2021

通过将优化器转换为可微分操作的方法，我们提出了一种扩展端到端学习的方法。该方法依赖于随机扰动优化器，并可以与现有求解器一起使用。我们还展示了如何将此框架与结构预测中开发的一系列损失相连接，并为其在学习任务中的使用提供了理论保证。

Feb, 2020