Jan, 2024

UR4NNV：神经网络验证，欠估计可达性研究！

PDF
TL;DR该研究介绍了 UR4NNV 验证框架，它首次利用了 DNN 的欠逼近可达性分析方法，针对具有 ReLU 激活函数的 DNN 并采用基于二叉树分支的欠逼近算法。UR4NNV 有效验证 DNN 属性且在达到验证轮数和未能证伪属性时提供置信水平，实验比较结果显示 UR4NNV 在解决 “未知困境” 方面的有效性和效率，显著减少了影响。
formal verificationdeep neural networksover-approximation based methodsur4nnv verification frameworkunder-approximation reachability analysis
发现论文，激发创造
  • NNV: 面向深度神经网络和学习增强型的网络物理系统的神经网络验证工具

    本文介绍神经网络验证（NNV）软件工具，该工具为深度神经网络（DNN）和学习启用的控制系统（CPS）提供了一套基于集合的验证框架。NNV 的核心是一组可达性算法，这些算法利用了多种集合表示，例如，多面体、恒星集、zono topes 和抽象域表示。

    Apr, 2020

  • 使用高效的边界传播和并行计算扩展深度神经网络验证工具的规模

    深度神经网络在安全方面的正式验证问题已经扩展到计数版本 (DNN-Verification)，为了在给定安全属性的领域中计算不安全区域的数量。为了解决这个问题的复杂性，本研究提出了一种基于可达性分析、符号线性松弛和并行计算的新策略，以增强现有的精确和近似 DNN 计数的形式验证的效率。在标准的形式验证基准和现实的机器人场景上进行的实证评估表明，在可扩展性和效率方面都取得了显著的改进，使得这种技术能够用于复杂的机器人应用。

    Dec, 2023

  • 神经网络验证的基于抽象的框架

    本研究提出了一种通过使用过度逼近来减小神经网络规模，以提高神经网络验证技术的框架，并使用反例引导调整逼近，以验证大型神经网络。实验证明，该方法对验证大型神经网络具有很大的潜力。

    Oct, 2019

  • 关系型深度神经网络验证与跨执行边界细化

    通过利用深度神经网络中跨执行的依赖关系，我们开发了一种可扩展的关系验证器 RACoon，准确验证了在广泛数据集、网络和关系属性上相对于 SOTA 基准的各种关系属性。

    May, 2024

  • 验证友好的深度神经网络

    提出了一种生成可验证的神经网络（VNNs）的新框架，该框架通过后训练优化在保留预测性能和鲁棒性之间取得平衡，使得生成的网络在预测性能方面与原始网络相当，并且可以进行验证，以更加高效地建立 VNNs 的强大性。

    Dec, 2023

  • 验证深度神经网络的算法

    本文调查了最近出现的，从可达性分析、优化和搜索中获得的洞见的方法，以确保设计的深度神经网络满足特定的输入输出属性。 我们讨论了现有算法之间的根本差异和联系。 此外，我们提供了现有方法的教学实现，并在一组基准问题上进行了比较。

    Mar, 2019

  • 使用 ReLU 激活函数的神经网络可达集计算与安全验证

    该论文探讨了一类由 ReLU 激活函数构成的神经网络的输出可达集计算和安全验证问题，并提出了一种逐层计算输出可达集的方法，通过计算输出可达集的结果，可以通过检查不安全区域与由一组多面体描述的输出可达集的交集来执行简单有效的安全验证。

    Dec, 2017

  • 深度神经网络上的模型无关可达性分析

    本文提出一种模型无关的验证框架 DeepAgn，通过 reachability analysis，可以解决计算给定输入的最大安全半径和生成地面实际的例子等多个已知鲁棒性问题，尤其适用于处理包括 FNN 和 RNN 在内的复杂深层神经网络的验证。

    Apr, 2023

  • 神经网络的增量验证

    该研究提出了一种基于新颖理论、数据结构和算法设计的增量和完全的 DNN 验证框架，旨在提高完全验证器在更新后的 DNN 上的验证效率。将其实现在名为 IVAN 的工具中，可以在 MNIST 和 CIFAR10 分类器上实现总体几何平均加速比为 2.4 倍，在 ACAS-XU 分类器上实现总体几何平均加速比为 3.8 倍。

    Apr, 2023

  • 具分布鲁棒性的不精确神经网络统计验证

    为高维自主系统提供行为保证是人工智能安全领域中的一个特别具有挑战性的问题。本文提出了一个基于主动学习、不确定性量化和神经网络验证的新方法，其中的核心是一种称为不精确神经网络的集成技术，它提供了用于引导主动学习的不确定性。通过在多个物理模拟器上对经过增强学习的控制器进行评估，证明了我们的方法可以为高维系统提供有用且可扩展的保证。

    Aug, 2023