提出了一种生成可验证的神经网络(VNNs)的新框架,该框架通过后训练优化在保留预测性能和鲁棒性之间取得平衡,使得生成的网络在预测性能方面与原始网络相当,并且可以进行验证,以更加高效地建立 VNNs 的强大性。
Dec, 2023
本文提出了一种通用的神经网络形式验证框架,通过将验证问题转化为最优化问题,并通过我们提出的松弛算法得到可靠的上界,从而可对神经网络的输入和输出属性满足的规范进行形式化验证。
Mar, 2018
本书介绍了形式验证的基本概念及其在神经网络和深度学习中的应用,以保证其安全性、健壮性和正确性。
Sep, 2021
本文提出一种新的神经网络可验证的符号推理框架,名为符号推理,其利用了符号域和二次关系来解决网络在面临不同情景下的可验证问题。该框架提供了一种新的可验证信号和视角,可为神经网络的验证问题带来新的理论启示和实用工具。
Mar, 2023
本篇论文介绍了在安全重要应用领域中使用深度神经网络的问题,针对其可靠性和安全性的担忧,提出了采用形式化验证来保证其运行符合预期,并通过两个方向,即设计可扩展性的验证技术和识别可验证的深度学习系统的设计选择来缓解这一挑战。
Jan, 2018
本文提出通过符号传播技术,以符号方式表示神经元值,并在抽象域上由输入层向前传播,用于分析深度神经网络,从而提高系统安全性验证精度。该方法相较于其他方法具有显著优势。
Feb, 2019
本研究提出了一种通过使用过度逼近来减小神经网络规模,以提高神经网络验证技术的框架,并使用反例引导调整逼近,以验证大型神经网络。实验证明,该方法对验证大型神经网络具有很大的潜力。
Oct, 2019
本文调查了最近出现的,从可达性分析、优化和搜索中获得的洞见的方法,以确保设计的深度神经网络满足特定的输入输出属性。 我们讨论了现有算法之间的根本差异和联系。 此外,我们提供了现有方法的教学实现,并在一组基准问题上进行了比较。
Mar, 2019
通过引入符号层,神经符号深度神经网络(NS-DNN)结合了感知和逻辑推理的人工智能任务,我们确定并形式化了一个直观的高层原则:符号正确性,该原则可以指导 NS-DNN 的设计和分析。我们证明符号正确性是 NS-DNN 可解释性和迁移学习的必要属性,并提供了一种精确推理和沟通神经符号边界上模型行为的方式,同时揭示了 NS-DNN 训练算法面临的基本权衡,并提供了支持进一步 NS-DNN 发展的框架。
Feb, 2024
本文提出了一种有效的方法来严格检查神经网络的不同安全属性,可以检查不同的安全属性并找到具体的反例,比现有方法的性能提高了数个数量级,这种方法也有助于提高神经网络的可解释性并指导训练更加稳健的神经网络。
Sep, 2018