Jun, 2023

有约束马尔可夫决策过程中拉格朗日方法的无撤销后悔界限

PDF
TL;DR本文提出了一种基于 Lagrangian 方法的新型模型双重算法 OptAug-CMDP，针对标签化的有限路径 CMDP，证明了该算法在探索 CMDP 的 K 个周期内同时获得了目标和约束违规的期望性能敏感性，且无需进行错误取消。
constrained markov decision processessafe reinforcement learninglagrangian-based dual algorithmoptaug-cmdpregret bounds
发现论文，激发创造
  • 在受限马尔可夫决策过程中的真正无悔学习

    本文提出了一种基于正则化原始对偶方案的模型为基础的算法，用于学习未知的多约束 CMDP，并证明了该算法在没有误差抵消的情况下能够实现亚线性遗憾。

    Feb, 2024

  • 基于上置信度的对偶强化学习用于带对抗损失的 CMDP

    本文关注于强化学习中保障安全的关键问题，提出一种新的基于置信上限的原始对偶算法，更好地解决了环境参数未知的情况下，限制条件作用下的 regret 分析。

    Mar, 2020

  • 约束马尔科夫决策过程的更快算法和更精细分析

    本论文提出了一种新的原始对偶方法来解决带限制的马尔可夫决策过程问题，通过熵正规化策略优化器、对偶变量正规化器和 Nesterov 加速梯度下降对偶优化器等创新方法，全局收敛至凸优化下的凸约束，显示了目前已有的原始对偶算法无法达到的最优复杂度 O (1/ε)。

    Oct, 2021

  • 面向有约束 MDPs 的无痛政策优化

    研究无限时间、折扣的约束马尔可夫决策过程中的政策优化问题，提出了一种泛化的原始 - 对偶框架，用于评估算法表现，实例化了此框架来使用硬币投注算法并证明了其结果的目标约束逼近度，以及并非像其他方法一样需要超参数调整，并通过对合成和 Cartpole 环境的实验证明了其效力和稳健性。

    Apr, 2022

  • 基于原始对偶策略优化的可证明高效安全探索

    该论文使用 CMDP 公式研究了安全强化学习（SRL）问题，在预期总回报的安全限制下最大化效用函数的预期总价值。提出了一种可证明计算效率和统计效率的在线策略优化算法 - OPTIMISTIC PRIMAL-DUAL PROXIMAL POLICY OPTIMIZATION（OPDOP）算法，利用最小二乘策略估计和安全探索额外奖励项来估计值函数。

    Mar, 2020

  • 非平稳目标和约束的可证明高效原始 - 对偶强化学习在 CMDPs 中的应用

    本文研究了具有不稳定目标和约束的约束马尔可夫决策过程的原始 - 对偶强化学习，并提出了具有安全性和适应性的时间变化中安全的 RL 算法，同时建立了动态遗憾界和约束违规界。

    Jan, 2022

  • CMDP 离策略学习的近似最优原始对偶算法

    本研究针对离线数据的约束马尔可夫决策过程问题，引入了单策略集中度系数、提出了 DPDL 算法，并建立了样本复杂度下界，保证无约束违规。

    Jul, 2022

  • 学习具有随机硬约束的对抗式马尔可夫决策过程

    我们研究带有对抗性损失和随机硬约束的约束马尔可夫决策过程（CMDP）中的在线学习问题。我们设计了两种不同的情景，第一种是在一般 CMDP 中实现次线性遗憾和累积正约束违规的算法。第二种情景下，我们假设策略存在且对学习者已知，并设计了一个算法，确保次线性遗憾的同时，高概率满足所有回合的约束。据我们所知，我们的工作是第一个研究同时涉及对抗性损失和硬约束的 CMDP。这些算法可处理一般非平稳环境中的要求，要求比现有算法处理的要严格得多，从而能够在更广范围的实际应用中采用，包括自动驾驶、在线广告和推荐系统。

    Mar, 2024

  • 在约束马尔可夫决策过程中实现 $\tilde {O}(1/ε)$ 的样本复杂性

    我们研究了强化学习问题中的约束马尔可夫决策过程（CMDP），并通过优化算法对 CMDP 问题的样本复杂度提出了改进，实现了优化的问题相关保证。

    Feb, 2024

  • 学习具有非静态奖励和约束条件的受限马尔可夫决策过程

    通过提供性能逐渐降低的算法，在具有非平稳奖励和约束的受限马尔可夫决策过程中缓解了在与最佳策略竞争时达到亚线性遗憾和亚线性约束违规的关键不可能结果。

    May, 2024