强化学习中的Hamilton-Jacobi可达性:综述
DeepReach是一种新的方法,利用了正弦网络的新发展,针对高维可达性问题开发了神经偏微分方程求解器,不需要任何显式监督,可以轻松处理外部干扰,对抗性输入和系统约束,并为系统提供安全控制器。在多车碰撞问题和狭窄通道问题上,DeepReach可以实现与最先进的可达性方法相当的结果,这些问题是受自动驾驶应用启发的。
Nov, 2020
本文提出了基于可达性分析的RCRL方法来解决CRL中的安全约束问题,并利用可达性分析来建立新的自洽性条件以及特征化可行集。在多个基准测试中,RCRL方法展现了优于CRL和安全控制基准的可行集、策略绩效和约束满足性。
May, 2022
提供自治系统的正式安全性和性能保证变得越来越重要,本文提出一种提供可达管的可证安全近似解的方法,该方法可以通过计算DeepReach解的误差界来进行可达管的修正,并通过基于情景优化的方法来推导DeepReach解的误差界等.
Sep, 2022
本文介绍了将Hamilton-Jacobi-Bellman Proximal Policy Optimization(HJBPPO)算法引入强化学习中,使用Hamilton-Jacobi-Bellman(HJB)方程在连续状态和动作空间中评估价值函数的最优性,将价值网络视为物理学知识神经网络(PINN)来计算其输入的导数,将其实现到Proximal Policy Optimization(PPO)Clipped 算法中,证明HJBPPO算法相比PPO算法在MuJoCo环境有更好的性能表现。
Feb, 2023
确保安全对于强化学习的实际部署非常重要。我们提出了一个新的框架,用于在一般的随机环境中进行安全约束的强化学习。我们的算法在最优化奖励的同时保持持续的安全特性,通过最小化累积折扣违规行为来产生最安全的行为,并基于可达性估计来优化我们提出的框架。我们在多个安全强化学习环境上评估了该方法,并与当前最先进的基准方法进行了比较,结果显示了在提高奖励性能和安全性方面的优势。
Sep, 2023
本研究主要探讨基于模型的强化学习中的安全性和鲁棒性问题,包括使用贝叶斯神经网络描述动态模型来计算迭代预测的到达-避免概率,以及使用控制综合算法综合出最佳控制策略以满足安全性约束和学习到的动态模型。
Oct, 2023
该论文提出了一种鲁棒安全强化学习框架,解决了在真实控制任务中应用强化学习时外部干扰的安全性问题,该框架通过建立鲁棒不变集合来保证安全,并采用约束强化学习算法进行策略优化。
Oct, 2023
使用三种方法解决了物理信息机器学习方法在机器人应用中由于采样性质而产生的不连续解的问题,并在5D、9D车辆模拟和13D无人机模拟中证明了混合方法在泛化和安全性能方面的优越性。
Nov, 2023
通过鲁棒方案优化和符合性预测,为神经可达管提供概率性安全保证;采用异常值调整的验证方法从神经可达管的误差分布中恢复更大的安全空间,有效解决多车碰撞避免和火箭降落等高维问题。
Dec, 2023
我们开发了一种可证明安全和收敛的非线性动态系统控制的强化学习算法,填补了控制理论的强安全性保证和强化学习理论的收敛保证之间的差距。我们的方法通过单阶段的基于采样的方式,在学习过程和实际应用中满足硬约束条件,同时享有经典的收敛保证,我们在仿真环境中验证了我们方法的有效性,包括一个具有挑战性障碍避免问题的四旋翼无人机的安全控制,并证明其胜过现有的基准模型。
Mar, 2024