应用随机噪声提取方法和神经网络结构，在深度强化学习控制中提出一种可靠性量化方法，通过对两个神经网络的输出差异进行评估，改进了 DRL 控制性能和模型切换的问题。

Sep, 2023

本文提出了一种针对 DRL 系统的紧密可扩展的可达性分析方法，使用抽象状态处理内嵌的神经网络以避免神经网络的过估计，并设计了一种名为 BBReach 的工具来评估其紧密性、可扩展性和效率。

Nov, 2022

提出了一种自我完善的人工智能系统，通过黑盒验证方法，增强基于强化学习的自主驾驶代理的安全性能。在发现自动驾驶失败情况后，RL 代理的训练通过迁移学习重新初始化，以改善先前不安全的情况的表现

Oct, 2022

我们提出了一种新的方法来训练和验证基于 NLB 的证书，通过证书的序列设计和过滤来简化验证过程，并与神经网络验证引擎一起提供正式保证，以确保 DRL 代理实现其目标并避免不安全行为，通过在 DRL 控制的航天器上进行案例研究展示了该方法的优点。

May, 2024

通过整合形式验证和概率验证工具，将输入域划分为安全和不安全区域，通过聚类和符号表示过程对不安全区域进行压缩，从而在（潜在的）不安全区域高效地临时激活防护，显著减少运行时开销并保持形式安全保证。

Jun, 2024

本研究提出了一种基于 Markov 决策过程、混合整数线性规划、熵式细化和概率模型检验的抽象方法，用于验证深度强化学习中的概率策略，并在一些强化学习基准测试上验证了其有效性。

Jan, 2022

通过定性和定量安全性验证问题的综合合成有效的神经屏障证书，本文提出了一种用于 DNN 控制系统的新型框架，并通过 $ extsf {UniQQ}$ 工具在四个经典 DNN 控制系统上展示了其有效性。

Apr, 2024

深度强化学习在控制系统领域得到了广泛应用，但其实际应用受到状态扰动的影响，导致系统性能下降。本研究提出了一种基于奖励鞅的鲁棒性验证方法，通过建立数学模型来描述状态扰动对系统性能的影响，为累积奖励问题提供了可靠的数值证明，并证明了奖励鞅可通过神经网络实现和训练，对不同类型的控制策略具有普适性。实验结果表明，所提出的方法的认证界限能有效地包围各种基于深度强化学习的控制系统的仿真结果。

Dec, 2023

本文提出了 MOSAIC 算法，通过概率模型检查深度强化学习代理在随机环境中的安全性，为控制器的执行构建正式抽象，并产生有限时间范围内安全行为的概率性保证，本研究在多个基准控制问题的代理进行了实施和评估。

May, 2020

为了实现安全控制，本研究提出了一种运行时保证系统（RTA），它使得能够使用不可信或实验性控制器，并通过备份（或安全）控制器来确保安全。通过使用奖励塑造和强化学习，该方法可以保证安全性并利用机器学习技术提高可扩展性。实验结果表明，与现有方法相比，本方法在满足复杂安全需求的三维空间飞行模型中，既能确保安全性，又能提高实验控制器的利用率。

Oct, 2023