本研究考虑了具有时变阶段成本和附加切换成本的在线凸优化问题， 提出了一种名为 Receding Horizon Inexact Gradient (RHIG) 的基于梯度的在线算法来改善其性能，该算法只考虑最多 $W$ 步预测，以避免长期预测误差对在线性能的影响，并将其应用于随机预测误差模型和四轴飞行器跟踪问题中进行了数值测试。

Nov, 2020

研究了具有时间变化凸阶段成本的在线最优控制问题，设计了利用有限的梯度计算的 RHGC 算法，证明了其动态遗憾随着前瞻窗口大小的指数级下降，并利用线性二次跟踪问题提供了任何在线算法的动态遗憾的基本限制，最后用数值测试证明了 RHGC 算法在线性和非线性系统上的有效性和普适性。

Jun, 2019

研究一种基于连续时间的在线优化策略族，证明其能够达到无遗憾学习。从传统的离散时间角度来看，这种方法可导出大量离散时间算法（包括一些经典遗憾分析算法）的无遗憾性质，并统一了许多经典的遗憾上界，得到了一个无需借助于倍增技巧即可保证 $O (n^{-1/2})$ 遗憾上界的学习策略类。

Jan, 2014

本文提出了两个有效的充分条件来解决在线非凸优化和运动成本问题，并得出了算法 SFHC 的竞争比率，并且还为运动和击打成本提供了竞争比率结果。

Nov, 2019

在线凸优化问题中，我们考虑带有二次和线性切换成本的有限信息环境下的问题，通过使用关于先前目标函数的梯度信息，我们提出了在线多梯度下降算法 (Online Multiple Gradient Descent, OMGD)，并证明了其在二次切换成本的 OCO 问题的竞争比为至多 4 (L + 5) + (16 (L + 5))/μ。对于有界信息环境中的在线算法，其竞争比的上界和下界分别为 max {Ω(L), Ω(L/√μ)}。此外，还证明了 OMGD 算法实现了有限信息环境下的动态最优（按顺序）遗憾，并且对于线性切换成本，OMGD 算法的竞争比的上界取决于问题实例的路径长度、平方路径长度以及 L、μ，并且被证明是任何在线算法能够达到的最佳竞争比。因此，我们得出结论，在有限信息环境中，二次和线性切换成本的最优竞争比基本上是不同的。

Oct, 2023

在线学习不仅仅是记住一切。通过使用自适应在线学习中近期开发的技术重新审视折扣遗憾的经典概念，我们提出了一个能够优雅地在新数据到达时遗忘历史的关键算法，改进了传统的非自适应算法，即使用固定学习率的梯度下降算法。具体而言，我们的理论保证不需要任何除了凸性之外的结构假设，该算法在次优超参数调整时可以证明是鲁棒的。通过在线符合预测，我们进一步展示了这些好处，它是一个具有集合成员决策的下游在线学习任务。

Feb, 2024

本文提出一种基于在线梯度下降方法的动态调参算法，以降低动态遗憾（dynamic regret），进而优化强凸且未知动力学的损失函数。

Mar, 2016

研究了具有预测模型的平滑在线组合优化问题，提出一种在线算法在规划窗口和开关代价之间实现平衡，通过对合成在线分布流问题进行实证，证明在累积规避中取得了显着的改进。

Apr, 2022

本文分析并评估了一种采用逐坐标调整学习率的在线梯度下降算法，该算法可被视为带有对角先决条件的批量梯度下降的在线版本。实验结果表明，该算法在大规模机器学习问题中与最先进的算法相竞争，并带来更强的遗憾边界。

Feb, 2010

介绍了一种基于 Lagrangian hedging 的在线算法（包括 regret-matching 和 hedge），通过引入 optimism 和 adaptive step size 对非对抗性问题进行了优化，并给出了相应的性能界限。

Jan, 2021