Dec, 2023

基于组合归纳不变式的神经网络控制系统验证

PDF
TL;DR本文介绍了一种针对神经网络控制系统（NNCS）安全验证的新方法，利用归纳不动点方法，并配合自动推断必要的分解谓词的算法，将验证过程从数小时（甚至超时）缩短至几秒钟，在案例研究中显著提高了验证性能。
neural networkssafety-critical systemsnncs safety verificationinductive invariant methoddecomposition predicates
发现论文，激发创造
  • 通过差分动态逻辑证明安全的神经网络控制器

    通过使用差分动态逻辑（dL）和神经网络验证相结合的方法，我们引入了 VerSAILLE（通过逻辑链接的包络来确保安全的人工智能）来解决神经网络控制系统（NNCS）的安全性验证问题，同时提出了 Mosaic 来处理多项式实数算术性质在分段线性神经网络上的验证问题。我们的方法支持无限时间范围的安全性认证以及详尽枚举反例区域，并且在关闭环路的 NNV 中明显胜过现有的工具。

    Feb, 2024

  • 神经网络控制系统可达性分析

    该论文提出了一种基于 Lipschitzian 优化的 NNCS 验证框架，通过证明闭环 NNCS 的 Lipschitz 连续性并消除循环来实现，相比最先进的验证方法，DeepNNC 在各种 NNC 的效率和准确性方面表现更加优秀，并通过实际的案例展示了 DeepNNC 处理复杂系统的能力。

    Jan, 2023

  • 神经网络控制自主系统的形式化验证

    本文考虑了使用神经网络控制器的自主机器人的安全性问题。通过构建系统的一个有限状态抽象并使用标准的可达性分析方法，计算出一组安全的初始状态，使得从这些初始状态开始的机器人轨迹能够避开多面体障碍物。

    Oct, 2018

  • 使用不变式推理验证循环神经网络

    本文提出了一种新的方法来验证递归神经网络的属性，该方法基于推理不变量，并可将复杂问题转化为简单问题，实验表明该方法比现有技术快几个数量级。

    Apr, 2020

  • 使用符号卓诺托普和多边形卓诺托普验证神经网络控制系统

    本文提出了一种基于包含保持长期符号依赖性建模的组合方法，旨在分析神经网络控制系统的验证和安全评估，并通过数值实例和基准测试来评估该方法的有效性。

    Jun, 2023

  • 一种可验证强化学习的归纳综合框架

    本文研究如何使用形式化验证技术对增强学习 - enabled 机器学习系统进行验证，以保证其行为安全，并提出了一种基于黑盒方法的综合确定性程序的方法来实现系统验证。

    Jul, 2019

  • 深度神经网络控制系统的定性与定量安全验证统一

    通过定性和定量安全性验证问题的综合合成有效的神经屏障证书，本文提出了一种用于 DNN 控制系统的新型框架，并通过 $ extsf {UniQQ}$ 工具在四个经典 DNN 控制系统上展示了其有效性。

    Apr, 2024

  • 神经网络控制系统中的正向不变性

    本论文提出了一种基于区间分析和单调系统理论的框架，用于在具有神经网络控制器的非线性系统中证明和搜索正向不变集。

    Sep, 2023

  • CheckINN：Imandra 中的宽范围神经网络验证（扩展版）

    本文介绍了如何使用 Imadra 编程语言和定理证明器来设计开发适用于神经网络验证的 CheckINN 库。

    Jul, 2022

  • 面向安全关键深度神经网络的可扩展验证

    本篇论文介绍了在安全重要应用领域中使用深度神经网络的问题，针对其可靠性和安全性的担忧，提出了采用形式化验证来保证其运行符合预期，并通过两个方向，即设计可扩展性的验证技术和识别可验证的深度学习系统的设计选择来缓解这一挑战。

    Jan, 2018