通过使用障碍证明方法，结合高斯过程回归，本文介绍了一种从具备未知动力学的随机系统数据中鉴定出一组最大安全策略的方法。通过学习系统动力学并得到该预估的概率误差，我们开发了一种算法来构建分段随机障碍函数，从而利用学习到的高斯过程模型找到一组最大允许的策略集，该集合通过有序地剔除最糟糕的控制策略直至得到最大集合，保证了真实系统的概率安全性。这对于学习能力系统而言尤为重要，因为丰富的策略空间不仅可以增加数据采集，还能保持安全性并展现复杂行为。线性和非线性系统的案例研究表明，扩大用于学习系统的数据集大小能够增加最大允许的策略集。

Apr, 2024

在线安全验证自主系统的一项新技术，通过使用神经屏障证书有效地进行有界和无界时域的可达性分析，我们的方法使用由参数化神经网络给出的屏障证书，这些证书依赖于给定的初始集合，不安全集合和时间范围。

Apr, 2024

研究 stochastic dynamical system 在 finite-time horizon 下的安全性问题，提出基于 stochastic control barrier functions 的 barrier certificate condition 以量化系统在有限时间内退出给定的安全区域的概率，并将该条件表述为 sum-of-squares 优化问题进行高效的数值计算，在保证 expected value 的发展的状态相关的上限的前提下，提供了连续时间和离散时间系统的解决方案，针对控制的仿射动力学系统，提出了合成多项式状态反馈控制器以实现指定的安全概率，使用实例研究连续时间和离散时间领域中验证和控制方法的性能。

Sep, 2019

本文提出了一种新的方法，用于从黑盒动态系统中学习安全控制策略和屏障证书，无需精确的系统模型，并证明了安全证书在黑盒系统上成立。

Jan, 2022

通常，学习和控制过程中利用约束安全证书的技术被用于保证安全性，但是过高的模型不确定性可能使得鲁棒安全认证方法变得不可行。本文考虑了基于控制屏障函数（CBF）二阶锥规划的具有鲁棒安全证书的学习环境，在该环境下，如果控制屏障函数证书是可行的，我们的方法将利用它来保证安全性。否则，我们的方法通过探索系统动力学来收集数据，恢复控制屏障函数约束的可行性。我们采用了一种受贝叶斯优化中成熟工具启发的方法。我们证明，如果采样频率足够高，我们可以恢复鲁棒 CBF 证书的可行性，从而保证安全性。我们的方法不需要先验模型，据我们所知，这是第一个在存在偶尔不可行安全证书的情况下无需备份非学习型控制器即可保证安全的算法。

Nov, 2023

提出了一种使用高斯过程的验证框架来对不确定动态系统进行抽象，并利用已有方法对不确定马尔可夫过程进行安全验证，该方法在多个例子中得到了验证。

Apr, 2020

本文提出了有效的技术来综合安全集合和控制律，通过基于凸优化问题的近似来提供改进的可伸缩性质，其中一种方法仅需要近似的线性系统模型和 Lipschitz 连续的未知非线性动力学，展示了数字示例，包括一个自主车队。

Nov, 2017

为高维自主系统提供行为保证是人工智能安全领域中的一个特别具有挑战性的问题。本文提出了一个基于主动学习、不确定性量化和神经网络验证的新方法，其中的核心是一种称为不精确神经网络的集成技术，它提供了用于引导主动学习的不确定性。通过在多个物理模拟器上对经过增强学习的控制器进行评估，证明了我们的方法可以为高维系统提供有用且可扩展的保证。

Aug, 2023

该论文提出基于高斯过程的数据驱动方法，学习部分未知环境下四旋翼的模型，采用屏障证明方法确保学习过程的安全，并设计了学习控制器以及递归高斯过程预测方法，模拟结果表明该方法的有效性。

Oct, 2017

该文介绍了一种基于希尔伯特空间嵌入的分布表征方法，该方法利用再生核希尔伯特空间将分布映射到一个空间中，并扩展了一般支持向量机和其他核方法的整个内核方法库，为概率测量、统计推断、因果发现和深度学习等领域提供了广泛应用，并讨论了该方法的理论保证，应用和未来的研究方向。

May, 2016