本文提出了一种通用的神经网络形式验证框架,通过将验证问题转化为最优化问题,并通过我们提出的松弛算法得到可靠的上界,从而可对神经网络的输入和输出属性满足的规范进行形式化验证。
Mar, 2018
通过消除稳定的 ReLU 神经元并将其转化为由 ReLU 和仿射层组成的顺序神经网络,我们提出了一种网络削减技术作为预处理方法以便于验证,实验证明这种技术能够显著减小神经网络规模并加快验证过程。
Aug, 2023
研究了深度学习的形式验证以及提出了一种基于分支定界的族算法,并提出了新型的组合方法,以及新的有效的分支策略,将之用于高维输入上的问题,并提出包含以前发布的测试案例的全面测试数据集和基准测试。
Sep, 2019
本文调查了最近出现的,从可达性分析、优化和搜索中获得的洞见的方法,以确保设计的深度神经网络满足特定的输入输出属性。 我们讨论了现有算法之间的根本差异和联系。 此外,我们提供了现有方法的教学实现,并在一组基准问题上进行了比较。
Mar, 2019
本篇论文介绍了在安全重要应用领域中使用深度神经网络的问题,针对其可靠性和安全性的担忧,提出了采用形式化验证来保证其运行符合预期,并通过两个方向,即设计可扩展性的验证技术和识别可验证的深度学习系统的设计选择来缓解这一挑战。
Jan, 2018
为高维自主系统提供行为保证是人工智能安全领域中的一个特别具有挑战性的问题。本文提出了一个基于主动学习、不确定性量化和神经网络验证的新方法,其中的核心是一种称为不精确神经网络的集成技术,它提供了用于引导主动学习的不确定性。通过在多个物理模拟器上对经过增强学习的控制器进行评估,证明了我们的方法可以为高维系统提供有用且可扩展的保证。
我们提出了一种基于单纯形方法的技术,用于验证深度神经网络的属性,该方法可以处理非凸的修正线性单元(ReLU)激活函数,成功地验证相对于现有方法已知的规模更大的神经网络,以及用于无人机的下一代空中碰撞避免系统(ACAS Xu)的深度神经网络原型实现。
Feb, 2017
文章介绍了一种基于神经网络和逻辑规范的神经符号验证框架 Neuro-symbolic Verification,使得现有的神经网络验证基础设施可用于分析复杂的实际特性,从而避免现有神经网络验证技术的严重局限。
Mar, 2022
本文介绍了一种统一的深度学习模型形式验证的框架,利用分段线性结构和形式方法,结合现有方法的优势以实现两个数量级的加速。并提出了一组新的基准数据集,通过实验比较现有算法并确定影响验证问题难度的因素。
Nov, 2017
用具有适当启发式条件的一组算法基于神经网络的输出分布来验证其概率,同时计算和迭代优化神经网络输出概率的下界和上界,并通过应用非概率性神经网络验证中的最先进的边界传播和分支约束技术,显著提高了解决时间。
May, 2024