Jun, 2024

线性二次系统控制的全自适应保证后悔算法

PDF
TL;DR提出了一种解决具有未知系统模型的线性二次（LQ）控制问题的算法，其遗憾为 O (√T)，并在此基础上提出了首个完全自适应的算法，同时控制策略更新次数和自适应地优化遗憾上限，避免了计算复杂性问题。
linear quadratic control problemregretcomputational complexityadaptive algorithmexploration-exploitation trade-off adjustment
发现论文，激发创造
  • 线性二次型调节器的鲁棒自适应控制遗憾界

    本文提出了一种自适应控制的方法，可用于处理 Linear Quadratic Regulator 中未知的线性系统和需求预测的问题，算法的时间复杂度为多项式级别，且在控制中有很好的保障。

    May, 2018

  • 仅需 $\sqrt {T}$ 遗憾值即可高效学习线性 - 二次调节器

    我们提出了第一个计算效率高的算法，其在具有未知动态的线性二次控制系统中进行学习时仅有 $\widetilde O (\sqrt {T})$ 遗憾度。

    Feb, 2019

  • 高维线性二次系统的高效强化学习

    研究高维线性二次（LQ）系统的自适应控制问题，提出一种实现遗憾界为 O (p√T) 的自适应控制方案，并指出该方法在计算广告领域具有突出的应用价值。

    Mar, 2013

  • 对抗性在线控制的对数遗憾

    本文针对已知系统且受到敌对扰动的情况下，介绍了新的在线线性二次控制算法，通过将在线控制问题转化为具有近似优越函数的（延迟的）在线学习，无需控制迭代的运动成本，从而提高了算法的效果。

    Feb, 2020

  • 在线线性二次控制

    我们研究了控制具有已知嘈杂动力学和对抗选择二次损失的线性时不变系统的问题，并提出了第一种在这种情况下保证 O（sqrt（T））遗憾的有效在线学习算法。我们的算法依赖于对系统稳态分布的新型 SDP 松弛。与以前提出的松弛相反，我们的 SDP 的可行解都对应于 “强稳定” 策略，这些策略混合到稳定状态的速度呈指数增长。

    Jun, 2018

  • 基于学习的线性二次高斯控制附加勘探的遗憾分析

    通过数值模拟，我们分析了一种称为 LQG-NAIVE 的方法在控制未知部分可观察系统时产生的后悔效应，提出了扩展到 “闭环” 设置的 LQG-IF2E 方法，并验证了其与 LQG-NAIVE 的竞争性能。

    Nov, 2023

  • 基于专家预测的无模型线性二次控制

    本文介绍了一种新的无模型算法，用于控制线性二次系统，利用 reduce 方法，将马尔科夫决策过程的控制问题转化为专家预测问题，该算法实现简单通用，拥有多项理论保证和良好的性能。

    Apr, 2018

  • 在线 LQR 的朴素探索是最优的

    在处理未知真实系统参数的在线自适应控制问题中，使用新的上下界结论证明误差的最优性跟时间步数，输入空间和系统状态空间的维度呈现为～(T*d_u^2*d_x)^1/2, 并引入自绑定 ODE 方法控制 Riccati 方程扰动，从而实现任意可控系统实例的回归上界。同时，提出对估计的系统动力学进行合成的确定性等效控制器。

    Jan, 2020

  • 自适应线性二次调节器

    本文旨在系统地解决三个问题：无法量化未知系统动态参数对后悔值的影响，现有的一些自适应控制策略的高效实现问题以及未完善的系统参数辨识问题；通过一种新的自适应控制策略分解方法，我们可以得到任意策略的后悔值与最优控制器之间的差距，证明了针对稍作修改的 CE 方案的自适应控制策略的高效性；并给出了不同级别的收敛速率来描述系统未知参数的标识可能性。

    Jun, 2018

  • 部分可观察线性二次控制中的遗憾最小化

    本文提出一种名为 ExpCommit 的算法，用于在未知模型动态的情况下最小化部分可观测线性二次控制系统中的后悔，并提供一种新颖的方式来分解后悔，并为部分可观测线性二次控制系统提供端到端的次线性后悔上界，并对 ExpCommit 提供稳定性保证及后悔上界。

    Jan, 2020