提出了一种生成可验证的神经网络(VNNs)的新框架,该框架通过后训练优化在保留预测性能和鲁棒性之间取得平衡,使得生成的网络在预测性能方面与原始网络相当,并且可以进行验证,以更加高效地建立 VNNs 的强大性。
Dec, 2023
本文提出了一种通用的神经网络形式验证框架,通过将验证问题转化为最优化问题,并通过我们提出的松弛算法得到可靠的上界,从而可对神经网络的输入和输出属性满足的规范进行形式化验证。
Mar, 2018
文章介绍了一种基于神经网络和逻辑规范的神经符号验证框架 Neuro-symbolic Verification,使得现有的神经网络验证基础设施可用于分析复杂的实际特性,从而避免现有神经网络验证技术的严重局限。
Mar, 2022
本篇论文介绍了在安全重要应用领域中使用深度神经网络的问题,针对其可靠性和安全性的担忧,提出了采用形式化验证来保证其运行符合预期,并通过两个方向,即设计可扩展性的验证技术和识别可验证的深度学习系统的设计选择来缓解这一挑战。
Jan, 2018
本文调查了最近出现的,从可达性分析、优化和搜索中获得的洞见的方法,以确保设计的深度神经网络满足特定的输入输出属性。 我们讨论了现有算法之间的根本差异和联系。 此外,我们提供了现有方法的教学实现,并在一组基准问题上进行了比较。
Mar, 2019
本文提出了一种用于验证神经网络鲁棒性的新算法 Charon,并通过实验评估其在数百个基准测试中显著优于 AI^2,Reluplex 和 Reluval 等三种最先进的工具。
Apr, 2019
本书介绍了形式验证的基本概念及其在神经网络和深度学习中的应用,以保证其安全性、健壮性和正确性。
Sep, 2021
本文提出一种基于混合整数线性规划的框架,首次在电力系统应用中验证神经网络行为,能够确定神经网络分类为安全或不安全的输入范围,并且能够系统地识别对抗性示例,从而提高神经网络在电力系统中的鲁棒性和可靠性。
Oct, 2019
通过消除稳定的 ReLU 神经元并将其转化为由 ReLU 和仿射层组成的顺序神经网络,我们提出了一种网络削减技术作为预处理方法以便于验证,实验证明这种技术能够显著减小神经网络规模并加快验证过程。
Aug, 2023
该研究提出了一种基于新颖理论、数据结构和算法设计的增量和完全的 DNN 验证框架,旨在提高完全验证器在更新后的 DNN 上的验证效率。将其实现在名为 IVAN 的工具中,可以在 MNIST 和 CIFAR10 分类器上实现总体几何平均加速比为 2.4 倍,在 ACAS-XU 分类器上实现总体几何平均加速比为 3.8 倍。
Apr, 2023