Jan, 2023

利用保证神经网络模型简化进行神经网络控制系统的安全验证

PDF
TL;DR本文提出了一种神经网络模型减缩的方法，通过精确计算模型减缩精度，将减缩后的神经网络控制器替换成封闭回路系统，进而提高安全验证的计算效率，并通过自适应巡航控制系统的案例验证了方法的有效性。
发现论文，激发创造
  • 基于规格的神经网络简化用于可扩展形式验证

    本文提出了一种保守的神经网络缩减方法，该方法能够在验证减小的网络的同时，确保验证原始网络，可以适用于任何类型的激活函数，使得网络能够被缩小到不到原来的 5% 的大小，从而显著减少了验证时间。

    May, 2023

  • 神经网络控制自主系统的形式化验证

    本文考虑了使用神经网络控制器的自主机器人的安全性问题。通过构建系统的一个有限状态抽象并使用标准的可达性分析方法，计算出一组安全的初始状态，使得从这些初始状态开始的机器人轨迹能够避开多面体障碍物。

    Oct, 2018

  • 前馈神经网络符合规范的安全验证

    该论文提出了一种基于规范引导的安全验证方法，针对具有一般激活函数的前馈神经网络进行验证，使用区间分析方法进行计算，并开发了一个高效的算法来完成安全验证，实验结果表明该方法具有更高的效率和更少的计算代价。

    Dec, 2018

  • 通过网络简化加快神经网络验证

    通过消除稳定的 ReLU 神经元并将其转化为由 ReLU 和仿射层组成的顺序神经网络，我们提出了一种网络削减技术作为预处理方法以便于验证，实验证明这种技术能够显著减小神经网络规模并加快验证过程。

    Aug, 2023

  • 神经网络控制系统可达性分析

    该论文提出了一种基于 Lipschitzian 优化的 NNCS 验证框架，通过证明闭环 NNCS 的 Lipschitz 连续性并消除循环来实现，相比最先进的验证方法，DeepNNC 在各种 NNC 的效率和准确性方面表现更加优秀，并通过实际的案例展示了 DeepNNC 处理复杂系统的能力。

    Jan, 2023

  • 通过半定规划实现具有神经网络控制器的闭环系统的可达性分析

    本文提出使用新颖的前向可达性分析方法以验证具有神经网络的时间变化系统的安全性，并举例证明其在四旋翼控制系统中的实用性。

    Apr, 2020

  • 基于图像的神经网络控制系统的可扩展代理验证：组合和展开方法

    通过使用条件生成对抗网络和系统动力学，我们提出了一种针对神经网络控制系统安全验证的方法，减少了单步误差和多步误差，并通过计算准确的可达集来实现较好的可扩展性。

    May, 2024

  • 神经网络行为验证：电力系统应用的形式保证

    本文提出一种基于混合整数线性规划的框架，首次在电力系统应用中验证神经网络行为，能够确定神经网络分类为安全或不安全的输入范围，并且能够系统地识别对抗性示例，从而提高神经网络在电力系统中的鲁棒性和可靠性。

    Oct, 2019

  • 面向安全关键深度神经网络的可扩展验证

    本篇论文介绍了在安全重要应用领域中使用深度神经网络的问题，针对其可靠性和安全性的担忧，提出了采用形式化验证来保证其运行符合预期，并通过两个方向，即设计可扩展性的验证技术和识别可验证的深度学习系统的设计选择来缓解这一挑战。

    Jan, 2018

  • 深度神经网络控制系统的定性与定量安全验证统一

    通过定性和定量安全性验证问题的综合合成有效的神经屏障证书，本文提出了一种用于 DNN 控制系统的新型框架，并通过 $ extsf {UniQQ}$ 工具在四个经典 DNN 控制系统上展示了其有效性。

    Apr, 2024