Nov, 2020

基于梯度算法的平滑在线凸优化中的预测利用

PDF
TL;DR本研究考虑了具有时变阶段成本和附加切换成本的在线凸优化问题， 提出了一种名为 Receding Horizon Inexact Gradient (RHIG) 的基于梯度的在线算法来改善其性能，该算法只考虑最多 $W$ 步预测，以避免长期预测误差对在线性能的影响，并将其应用于随机预测误差模型和四轴飞行器跟踪问题中进行了数值测试。
online convex optimizationswitching costslong-term predictionsgradient-based algorithmstochastic prediction error model
发现论文，激发创造
  • 具备预测和转换成本的在线优化：快速算法和基本极限

    本文研究了具有有限预测窗口和附加决策切换成本的在线优化问题。提出了两种基于梯度的在线算法：RHGD 和 RHAG。该文章报告了这些算法的动态遗憾的上限，并且发现我们的基于梯度的 RHAG 算法是一种接近最优的在线算法。

    Jan, 2018

  • 基于线性动力学和预测的在线最优控制：算法及遗憾分析

    研究了具有时间变化凸阶段成本的在线最优控制问题，设计了利用有限的梯度计算的 RHGC 算法，证明了其动态遗憾随着前瞻窗口大小的指数级下降，并利用线性二次跟踪问题提供了任何在线算法的动态遗憾的基本限制，最后用数值测试证明了 RHGC 算法在线性和非线性系统上的有效性和普适性。

    Jun, 2019

  • 利用不完美预测进行平滑的在线组合优化

    研究了具有预测模型的平滑在线组合优化问题，提出一种在线算法在规划窗口和开关代价之间实现平衡，通过对合成在线分布流问题进行实证，证明在累积规避中取得了显着的改进。

    Apr, 2022

  • 使用预测和非凸损失的在线优化

    本文提出了两个有效的充分条件来解决在线非凸优化和运动成本问题，并得出了算法 SFHC 的竞争比率，并且还为运动和击打成本提供了竞争比率结果。

    Nov, 2019

  • 动态环境下的在线优化：强凸问题改进遗憾率

    本文提出一种基于在线梯度下降方法的动态调参算法，以降低动态遗憾（dynamic regret），进而优化强凸且未知动力学的损失函数。

    Mar, 2016

  • 乐观自适应拉格朗日对冲

    介绍了一种基于 Lagrangian hedging 的在线算法（包括 regret-matching 和 hedge），通过引入 optimism 和 adaptive step size 对非对抗性问题进行了优化，并给出了相应的性能界限。

    Jan, 2021

  • 有约束的在线两阶段随机优化：具有（和不具有）预测的算法

    我们考虑了一个在线两阶段随机优化问题，有关于 T 个周期的长期约束。我们通过对抗学习算法开发了在线两阶段问题的在线算法，同时，我们的算法的遗憾界可以降低到嵌入对抗式学习算法的遗憾界。基于这个框架，在不同的设置下，我们得到了新的结果。

    Jan, 2024

  • 带长期约束的在线凸优化自适应算法

    提出了一种适应性在线梯度下降算法，用于解决具有长期约束的在线凸优化问题，可以处理任意凸约束，该算法在损失和约束违规方面分别具有 O (T^max {β,1−β}) 和 O (T^(1−β/2)) 的累积遗憾界，优于 Mahdavi 等（2012 年）最好的已知累积遗憾界，该算法的性能已在实践中得到验证。

    Dec, 2015

  • 追踪缓慢移动的预知者：真实梯度和噪声梯度下的在线学习最优动态遗憾

    本研究关注在线凸优化的动态遗憾，通过探索称为路径变化的时间变化机制，提出了一些动态遗憾改进的变差上限，并证明他们在已有的下限条件下是最优的。

    May, 2016

  • 折扣自适应在线预测

    在线学习不仅仅是记住一切。通过使用自适应在线学习中近期开发的技术重新审视折扣遗憾的经典概念，我们提出了一个能够优雅地在新数据到达时遗忘历史的关键算法，改进了传统的非自适应算法，即使用固定学习率的梯度下降算法。具体而言，我们的理论保证不需要任何除了凸性之外的结构假设，该算法在次优超参数调整时可以证明是鲁棒的。通过在线符合预测，我们进一步展示了这些好处，它是一个具有集合成员决策的下游在线学习任务。

    Feb, 2024