Dec, 2023

使用高效的边界传播和并行计算扩展深度神经网络验证工具的规模

PDF
TL;DR深度神经网络在安全方面的正式验证问题已经扩展到计数版本 (DNN-Verification)，为了在给定安全属性的领域中计算不安全区域的数量。为了解决这个问题的复杂性，本研究提出了一种基于可达性分析、符号线性松弛和并行计算的新策略，以增强现有的精确和近似 DNN 计数的形式验证的效率。在标准的形式验证基准和现实的机器人场景上进行的实证评估表明，在可扩展性和效率方面都取得了显著的改进，使得这种技术能够用于复杂的机器人应用。
发现论文，激发创造
  • DNN - 验证问题：计算深度神经网络的不安全输入数量

    本文介绍了 DNN-Verification 问题，分析了其复杂性并提出了一种新颖的方法，该方法返回违反特定安全属性的 DNN 输入配置的确切计数。考虑到问题的 #P 完备性，我们还提出了一种随机的、近似的方法，该方法提供了一个可证明的概率界限，同时显著减少了计算需求。我们在一组安全关键基准上呈现了实验结果，证明了我们的近似方法的有效性，并评估了界限的紧密度。

    Jan, 2023

  • 验证友好的深度神经网络

    提出了一种生成可验证的神经网络（VNNs）的新框架，该框架通过后训练优化在保留预测性能和鲁棒性之间取得平衡，使得生成的网络在预测性能方面与原始网络相当，并且可以进行验证，以更加高效地建立 VNNs 的强大性。

    Dec, 2023

  • 面向安全关键深度神经网络的可扩展验证

    本篇论文介绍了在安全重要应用领域中使用深度神经网络的问题，针对其可靠性和安全性的担忧，提出了采用形式化验证来保证其运行符合预期，并通过两个方向，即设计可扩展性的验证技术和识别可验证的深度学习系统的设计选择来缓解这一挑战。

    Jan, 2018

  • 使用符号传播分析深度神经网络：实现更高的精度和更快的验证

    本文提出通过符号传播技术，以符号方式表示神经元值，并在抽象域上由输入层向前传播，用于分析深度神经网络，从而提高系统安全性验证精度。该方法相较于其他方法具有显著优势。

    Feb, 2019

  • 深度神经网络控制系统的定性与定量安全验证统一

    通过定性和定量安全性验证问题的综合合成有效的神经屏障证书，本文提出了一种用于 DNN 控制系统的新型框架，并通过 $ extsf {UniQQ}$ 工具在四个经典 DNN 控制系统上展示了其有效性。

    Apr, 2024

  • 神经网络的增量验证

    该研究提出了一种基于新颖理论、数据结构和算法设计的增量和完全的 DNN 验证框架，旨在提高完全验证器在更新后的 DNN 上的验证效率。将其实现在名为 IVAN 的工具中，可以在 MNIST 和 CIFAR10 分类器上实现总体几何平均加速比为 2.4 倍，在 ACAS-XU 分类器上实现总体几何平均加速比为 3.8 倍。

    Apr, 2023

  • 具有可证明的概率保证的深度神经网络中的安全区域枚举

    鉴于深度神经网络 (DNNs) 所基于的系统的可信保证，识别安全区域是一个关键问题。为此，我们提出了 AllDNN-Verification 问题：给定一个安全属性和一个 DNN，列举出在属性输入域中所有安全的区域，即属性成立的区域。由于该问题是 #P - 难问题，我们提出了一种高效的近似方法，名为 epsilon-ProVe。我们的方法利用对输出可达集合进行的统计预测容限限制的可控低估，并能够提供安全区域的一个紧凑的 (具有可证明的概率保证) 下界估计。我们在不同的标准基准测试上进行了实证评估，展示了我们方法的可扩展性和有效性，并为这种新类型的 DNN 验证提供了有价值的洞见。

    Aug, 2023

  • NNV: 面向深度神经网络和学习增强型的网络物理系统的神经网络验证工具

    本文介绍神经网络验证（NNV）软件工具，该工具为深度神经网络（DNN）和学习启用的控制系统（CPS）提供了一套基于集合的验证框架。NNV 的核心是一组可达性算法，这些算法利用了多种集合表示，例如，多面体、恒星集、zono topes 和抽象域表示。

    Apr, 2020

  • 深度网络可扩展验证的双重方法

    本文提出了一种通用的神经网络形式验证框架，通过将验证问题转化为最优化问题，并通过我们提出的松弛算法得到可靠的上界，从而可对神经网络的输入和输出属性满足的规范进行形式化验证。

    Mar, 2018

  • 对象检测的形式验证

    利用形式验证来确保计算机视觉模型的安全性，针对图像分类进行了拓展，提出一种一般性的方案来证明物体检测模型的鲁棒性，并提供了与最先进的验证工具兼容的实现策略。

    Jul, 2024