本研究中，我们研究了在线控制下的线性动态系统在拥有转移动态知识的拥有敌意的变化强凸成本函数下的最优遗憾界限，并提出了在线梯度下降和在线自然梯度两种不同且高效的迭代方法来实现遗憾边界小而有效。

Sep, 2019

提出了一种名为 Noisy-Follow-the-Perturbed-Leader（NFPL）算法的在线学习算法来设计具有遗憾保证的缓存策略，在请求估计有噪声的情况下，该算法具有亚线性遗憾，并通过实验验证了该方法的有效性。

Sep, 2023

在线学习不仅仅是记住一切。通过使用自适应在线学习中近期开发的技术重新审视折扣遗憾的经典概念，我们提出了一个能够优雅地在新数据到达时遗忘历史的关键算法，改进了传统的非自适应算法，即使用固定学习率的梯度下降算法。具体而言，我们的理论保证不需要任何除了凸性之外的结构假设，该算法在次优超参数调整时可以证明是鲁棒的。通过在线符合预测，我们进一步展示了这些好处，它是一个具有集合成员决策的下游在线学习任务。

Feb, 2024

本文针对已知系统且受到敌对扰动的情况下，介绍了新的在线线性二次控制算法，通过将在线控制问题转化为具有近似优越函数的（延迟的）在线学习，无需控制迭代的运动成本，从而提高了算法的效果。

Feb, 2020

本文讨论了基于梯度的在线学习算法来预测非凸模型序列的结果，提出了一种比标准 regret 更可解释的新定义来评估预测问题的性能并给出了该定义的边界分析。

Nov, 2018

本文分析并评估了一种采用逐坐标调整学习率的在线梯度下降算法，该算法可被视为带有对角先决条件的批量梯度下降的在线版本。实验结果表明，该算法在大规模机器学习问题中与最先进的算法相竞争，并带来更强的遗憾边界。

Feb, 2010

针对多个次要用户的认知网络中的分布式学习和信道访问问题，提出了一种在没有显式信息交换或事先协议的情况下实现自我博弈下（即在所有次要用户实现）达到最佳认知系统吞吐量的分布式学习和访问策略，并被证明其能够实现渐近下限，同时在次要用户数量为已知和未知且通过反馈进行估计两种情况下都有一定优化表现。

Jun, 2010

本文研究了在线预测未知、部分观察的线性系统生成的观察值的问题，并使用在线最小二乘法来实现对未来观察值的预测，其中系统模型和噪声统计未知，但状态空间已知，本文对 Kalman 滤波器实现了对数遗憾的保证，并扩展到非爆炸系统类别，包括临界不稳定系统。

Feb, 2020

本文研究了在线学习中基于动态后悔度的参考解决方案的变化以及静态后悔度参考解决方案的时间保持不变的差异，证明了基于在线梯度的近端算法是动态后悔度的最优算法。

Oct, 2018

优化非稳态动态损失和自适应损失的有效方法涉及非稳态在线学习的减少投影和梯度查询次数，在参数自由在线学习的基础上进行了非平凡的改进。

Sep, 2023