AAAIDec, 2020

约束风险厌恶马尔可夫决策过程

PDF
TL;DR该研究旨在设计面向具有动态一致风险目标和约束的马尔可夫决策过程的策略。作者提出了一个基于优化的方法来综合最小化受约束的风险 - 厌恶问题的可行马尔可夫策略，并通过数值实验验证了该方法的有效性。
markov decision processesrisk objectivesconstraintsoptimizationcoherent risk measures
发现论文，激发创造
  • 马尔科夫决策过程中约束风险的强化学习策略

    本研究提出了一种基于 MDPs 的风险受限规划算法，它将 UCT-like 搜索与通过线性规划实现的风险受限动作选择相结合，以最大化在低于所需阈值的情况下遇到故障状态的预期贴现总和回报。

    Feb, 2020

  • 风险敏感和鲁棒决策：CVaR 优化方法

    本文提出了一种在 MDP 框架下考虑风险和建模误差的决策方法，采用风险敏感条件价值风险 (CVaR) 目标，同时探讨了 CVaR MDP 框架在风险敏感和鲁棒决策制定中的应用，其理论分析和数值实验结果均证明了该方法的实用性和有效性。

    Jun, 2015

  • 具有分位风险标准的风险受限强化学习

    本文研究利用概率风险约束的马尔可夫决策过程，通过计算梯度并设计算法实现了局部最优策略，解决了累积成本最小化的顺序决策问题，例子包括最优停止问题和在线营销应用。

    Dec, 2015

  • 风险敏感强化学习应用于约束条件控制

    本文研究带错误状态的马尔可夫决策过程，并提出了基于风险和价值函数的启发式强化学习算法用于优化控制任务，实验结果表明该算法可以在模型假设被放宽的情况下成功应用于控制任务。

    Sep, 2011

  • 具有条件风险价值的鲁棒风险敏感强化学习

    使用固定过渡概率的标准马尔科夫决策过程（MDPs）的替代方案，鲁棒马尔科夫决策过程（RMDPs）在不确定性集合中优化最坏情况下的结果。本文研究了在 RMDP 下基于 CVaR 的风险敏感强化学习的鲁棒性，分析了预先设定的不确定性集合和状态动作相关的不确定性集合，提出了风险度量 NCVaR 和相应的优化方法，并通过仿真实验验证了该方法的有效性。

    May, 2024

  • 不确定性下的风险规避规划

    本文提出基于有限状态控制器的有界策略迭代方法，通过标准的凸优化算法设计出完全风险规避的 POMDP 最优策略，并针对给定的记忆预算和优化指标对控制器进行修改以减小一致风险。

    Sep, 2019

  • 鲁棒受限制马尔科夫决策过程：在模型不确定性下进行软受限制鲁棒策略优化

    本文介绍了一个基于 Constrained Markov Decision Process（CMDP）和 Robust Markov Decision Process（RMDP）的框架，即 Robust Constrained-MDPs（RCMDP），用于设计强大而稳健的强化学习算法，并提供相应的约束满足保证。同时，还将这个框架用于从模拟到真实世界的政策转移中，以实现对模型不确定性的强鲁棒性和安全保障。最后，我们在库存管理问题上验证了这个框架的有效性。

    Oct, 2020

  • 通过反向价值函数的约束马尔可夫决策过程

    本文提出了一种新的强化学习算法来应对现实世界中存在的约束条件问题，该算法将成本累加约束转化为基于状态的约束，并确保代理在训练过程中满足这些约束，同时保证其最大化回报。实验证明这种基于深度神经网络的算法在安全导航任务和约束版 MuJoCo 环境中表现出色。

    Aug, 2020

  • 基于风险的随机最短路径

    本研究针对马尔科夫决策过程中随机最短路径问题提出了一种基于条件风险价值优化的风险感知控制方法，并通过线性规划和价值迭代两种算法实现了精确而可靠的解决方案。实验结果表明该方法在多个中等规模的问题实例上是可行的。

    Mar, 2022

  • 鲁棒的拉格朗日与对抗性策略梯度方法用于鲁棒约束马尔可夫决策过程

    这篇论文介绍了两种算法：基于鲁棒拉格朗日和基于对抗的鲁棒约束策略梯度，通过在鲁棒约束强化学习中引入最坏情况动力学以及逐步学习的方式，这些算法在库存管理和安全导航任务中展现出与传统方法相当甚至更好的性能。

    Aug, 2023