Feb, 2024

双重二元性：用变分原对偶策略优化进行受约束强化学习

HTML
PDF
TL;DR在这项研究中，我们通过实施Lagrangian和Fenchel对偶性，将原始约束问题重构为无约束原始-对偶优化问题，以设计算法解决约束凸性马尔可夫决策过程中的凸性泛函最小化问题，其中访问度量是凸约束。同时，通过将访问度量嵌入到有限维空间中，我们可以通过结合函数逼近来处理较大的状态空间。
发现论文，激发创造
  • 安全强化学习中的加速原始-对偶策略优化

    本文提出了一种用于受限Markov决策过程CMDPs的策略搜索方法APDO，并在模拟机器人运动任务上实验，结果表明APDO比CMDPs的现有方法具有更好的采样效率和更快的收敛速度。

    Feb, 2018

  • 约束马尔科夫决策过程的更快算法和更精细分析

    本论文提出了一种新的原始对偶方法来解决带限制的马尔可夫决策过程问题，通过熵正规化策略优化器、对偶变量正规化器和Nesterov加速梯度下降对偶优化器等创新方法，全局收敛至凸优化下的凸约束，显示了目前已有的原始对偶算法无法达到的最优复杂度O(1/ε)。

    Oct, 2021

  • 非平稳目标和约束的可证明高效原始-对偶强化学习在CMDPs中的应用

    本文研究了具有不稳定目标和约束的约束马尔可夫决策过程的原始-对偶强化学习，并提出了具有安全性和适应性的时间变化中安全的RL算法，同时建立了动态遗憾界和约束违规界。

    Jan, 2022

  • 基于策略的原始对偶法用于凸约束马尔可夫决策过程

    研究凸约束马尔可夫决策过程（CMDPs），提出基于策略的原始-对偶算法来解决优化问题和约束问题，通过隐藏在问题中的凸性证明了所提出的算法的全局收敛性，并以最优性差距和约束违规性表示，证明了算法的 $O(T^{-1/3})$ 收敛速度。

    May, 2022

  • 自然策略梯度原始-对偶方法在约束MDPs上的收敛性和样本复杂度

    研究如何在满足预期总效用的约束条件下最大化预期总回报，提出了一种新的自然策略梯度原始-对偶方法来解决Constrained Markov决策过程（constrained MDPs）的折扣无限时域下的最优控制问题，在自然策略梯度上升和投影次梯度下降的影响下更新原始变量和对偶变量。

    Jun, 2022

  • 最后迭代一致收敛的政策梯度原始-对偶算法用于约束MDPs

    本文介绍了利用Lagrangian方法将约束马尔可夫决策过程转化为有约束鞍点问题的优化方法，提出了两种单时间尺度的基于原始对偶算法的策略算法，可以使策略迭代收敛到一个最优受限策略。其中一个采用了一种正则化策略梯度算法，另一个采用了一种乐观的策略梯度算法。这是约束MDPs单时间尺度算法中第一个非渐进策略最终迭代收敛结果。

    Jun, 2023

  • 一种具有均匀PAC保证的限制MDP的策略梯度原始对偶算法

    我们介绍了一种具有均匀概率近似正确性保证的新型策略梯度原始-对偶算法，同时保证了收敛至最优策略、次线性遗憾和多项式样本复杂度的理论保证，并在一个简单的CMDP示例中进行实证展示，证明了算法收敛至最优策略，而现有算法则表现出振荡性能和约束违规。

    Jan, 2024

  • 通过原始-对偶策略梯度算法学习无限时域平均奖励受限马尔可夫决策过程的通用参数化策略

    本文研究了无限时段平均回报约束马尔可夫决策过程（CMDP）。在我们的知识范围内，该工作是第一个深入探讨了具有一般策略参数化的平均回报CMDP的遗憾和约束违反分析。为了解决这个挑战，我们提出了一种基于原始对偶的策略梯度算法，能够在确保低遗憾全局最优策略的同时，灵活处理约束。特别地，我们证明了我们提出的算法实现了$\tilde{\mathcal{O}}({T}^{3/4})$的目标遗憾和$\tilde{\mathcal{O}}({T}^{3/4})$的约束违反界限。

    Feb, 2024

  • 在受限马尔可夫决策过程中的真正无悔学习

    本文提出了一种基于正则化原始对偶方案的模型为基础的算法，用于学习未知的多约束CMDP，并证明了该算法在没有误差抵消的情况下能够实现亚线性遗憾。

    Feb, 2024

  • 用于连续空间约束MDP的确定性策略梯度原始-对偶方法

    本研究解决了连续状态和动作空间的约束马尔可夫决策过程（MDP）中计算确定性最优策略的问题。我们提出了一种新的确定性策略梯度原始-对偶（D-PGPD）算法，具有非渐近收敛性，能有效地更新确定性策略和对偶变量，且在机器人导航和流体控制这两种连续控制问题中验证了其有效性。此方法是首个针对连续空间约束MDP提出的确定性策略搜索方法。

    Aug, 2024