May, 2023

基于模型的验证作为概率推理

PDF
TL;DR使用基于贝叶斯推断的模型方法来估计序列系统的失效轨迹，使用自动微分计算轨迹梯度并使用 Hamiltonian Monte Carlo 采样方法进行多模式捕捉和平滑处理，该方法在自主驾驶车辆、倒置摆控制系统和部分可观察月球着陆器实现，结果显示在样本效率和参数空间覆盖率方面比黑盒子基线方法有所改进，此方法已开放源代码。
autonomous systemsbayesian inferencesystem dynamicshamiltonian monte carlosample efficiency
发现论文，激发创造
  • 基于扩散的故障采样技术对于网络物理系统

    在高维领域中验证安全关键的自主系统（如机器人）是一个重大挑战。我们提出使用条件降噪扩散模型对故障分布进行采样，并经验证在高维机器人验证任务中相比现有的黑盒技术，能够提高采样效率和模态覆盖。

    Jun, 2024

  • 黑盒系统的贝叶斯安全验证

    本文提出了一种基于贝叶斯优化的安全验证算法，它通过迭代地适配概率代理模型来高效预测故障，并通过重要性采样来估计操作域内的故障概率。经实验表明，该算法在减少样本数和各种安全验证指标方面表现良好，并可用于补充机器学习组件的 FAA 认证过程。

    May, 2023

  • SAVME: 使用元学习实现自主系统的高效安全验证

    我们提出了一种贝叶斯方法，将元学习策略与多臂老虎机框架相结合，以加速自动系统的故障检测、减少模拟运行时间，并通过学习参数和准确模拟的分布来评估新场景中的学习速度。通过在先进的 3D 驾驶模拟器中应用 16 个保真设置来展示我们的方法，以评估基于自动化车辆事故前个体的各种场景，结果表明与仅依赖于高保真模拟器的传统方法相比，我们的方法加快了模拟速度，最多高出 18 倍。

    Sep, 2023

  • 自主机器人的鲁棒验证的贝叶斯学习

    利用 Bayesian learning 的框架进行 runtime verification，以验证在不确定环境中执行的关键任务的自主机器人，将这些方法应用于水下基础设施的检查和维修的自主机器人任务的验证案例研究中。

    Mar, 2023

  • 通过高斯过程回归形式化验证未知动态系统

    本文提出了一个基于高斯过程回归的验证框架，将连续空间系统抽象为有限状态不确定马尔可夫决策过程，利用模型检测工具验证抽象的不确定性，并将结果扩展到基础的部分可观测系统，有效地应用于线性、非线性和切换系统等多种情况下。

    Dec, 2021

  • 具有模型不确定性估计的安全强化学习

    使用 MC-Dropout 和 Bootstrapping 方法来提高安全驾驶机器人的模型稳定性，实现在未知数据情况下的碰撞回避。

    Oct, 2018

  • 高斯过程回归对未知动力系统的安全验证

    提出了一种使用高斯过程的验证框架来对不确定动态系统进行抽象，并利用已有方法对不确定马尔可夫过程进行安全验证，该方法在多个例子中得到了验证。

    Apr, 2020

  • 神经桥抽样用于评估安全关键自主系统

    本文提出了一种基于概率方法的安全性评估模拟方法，能够快速地对危险事件进行探测和评估，并证明了方法在统计和计算效率方面的优越性，最后在多种场景下进行了测试，证明了该方法对于开发和测试安全关键自主系统的敏感性分析和模型比较的重要性。

    Aug, 2020

  • 稳健验证：即使分布发生偏移，也能自信地做出预测

    本文提出了一种建立在鲁棒性预测推断上的不确定性估计模型，使用 conformal inference 方法建立了准确覆盖测试数据分布的预测集，通过估计数据漂移量建立了鲁棒性，并在多个基准数据集上进行了实验证明了该方法的重要性。

    Aug, 2020

  • 基于数据驱动的带有符合推理的随机动态系统可达性分析

    使用符合推断进行基于数据驱动的离散时间随机动态系统的可达性分析，将数据集转化为代理预测模型，通过符合推断量化预测模型的误差，从而提供概率可达性保证。该方法适用于复杂闭环动态难以使用符号模型建模的学习增强控制系统。

    Sep, 2023