本文介绍了一种统一的深度学习模型形式验证的框架,利用分段线性结构和形式方法,结合现有方法的优势以实现两个数量级的加速。并提出了一组新的基准数据集,通过实验比较现有算法并确定影响验证问题难度的因素。
Nov, 2017
本文扩展了一种现有的神经网络验证技术,以支持更广泛的分段线性激活函数类别,并将原始的算法扩展以提供对以起始集表示的有界输入集的精确结果或上估计结果,并允许无界输入集。我们实施了我们的算法,并在一些案例研究中展示了它们的有效性。
Nov, 2023
研究了深度学习的形式验证以及提出了一种基于分支定界的族算法,并提出了新型的组合方法,以及新的有效的分支策略,将之用于高维输入上的问题,并提出包含以前发布的测试案例的全面测试数据集和基准测试。
Sep, 2019
本文提出了一种用于验证非线性人工神经网络(ANNs)行为的方法,并将一种专用的区间约束传播器与 iSAT SMT 求解器相结合,将其与通过 iSAT 中可用的基本算术特征对 S 型函数进行编码的组合方法和逼近方法进行比较。实验结果表明,专用方法和组合方法明显优于逼近方法,并且在所有基准测试中,专用方法的性能与组合方法相当或更好。
Jul, 2022
该论文提出了一种基于规范引导的安全验证方法,针对具有一般激活函数的前馈神经网络进行验证,使用区间分析方法进行计算,并开发了一个高效的算法来完成安全验证,实验结果表明该方法具有更高的效率和更少的计算代价。
Dec, 2018
通过使用一种简单的搜索方法,精心地根据最先进的算法配置技术调整给定的验证问题,我们提出了一种新颖的参数搜索方法来改进这些线性逼近的质量,进而在几个常用的本地鲁棒性验证基准上平均提高了 25% 的全局下界。
Jun, 2024
本研究提出一种基于 Satisfiability Modulo Theory (SMT) 的新型自动化验证框架,旨在保证深度神经网络对于图像操作的安全性,能够发现对于给定操作范围和家族,对抗性样本是否存在,同时比较现有的相关技术。
Oct, 2016
我们研究了神经网络计算的形式验证问题,探讨了其各种鲁棒性和最小化问题。我们提供了一个理论框架,使我们能够在神经网络中转换安全性和效率问题,并分析它们的计算复杂性。我们发现,在半线性设置中,对于分段线性激活函数和使用求和或最大度量时,大多数问题都属于 P 类或最多属于 NP 类。
Mar, 2024
本文提出了使用神经网络控制器的分段线性系统的可达集估算和安全性验证问题,并开发了一种逐层方法来计算修正线性单位激活函数神经网络的输出可达集。基于神经网络控制器输出可达集,可以迭代地为给定的有限时间间隔估算分段线性反馈控制系统的输出可达集,并通过检查不安全区域和输出到达集的交集的存在来执行带有神经网络控制器的分段线性系统的安全性验证。
Feb, 2018
本文提出了一种新的基于符号区间传播和变量分裂的分支定界求解器 DPNeurifyFV,该方法采用新的启发式算法来选择区间变量,以改善变量相关性问题,在结合其他改进措施的情况下,可以显著提高深度学习神经网络验证的效率,并在空中碰撞避免网络 ACAS Xu 上实现了运行时改进。
Dec, 2022