神经网络验证入门
本篇论文介绍了在安全重要应用领域中使用深度神经网络的问题,针对其可靠性和安全性的担忧,提出了采用形式化验证来保证其运行符合预期,并通过两个方向,即设计可扩展性的验证技术和识别可验证的深度学习系统的设计选择来缓解这一挑战。
Jan, 2018
提出了一种生成可验证的神经网络(VNNs)的新框架,该框架通过后训练优化在保留预测性能和鲁棒性之间取得平衡,使得生成的网络在预测性能方面与原始网络相当,并且可以进行验证,以更加高效地建立 VNNs 的强大性。
Dec, 2023
本文讨论了神经网络在安全和保密方面应用的局限性,提出了一些自动推理技术来提供神经网络性能的保障,并且对现有的神经网络自动验证方法进行了综合分类和阐述,同时讨论了存在的局限性以及未来研究的方向。
May, 2018
文章介绍了一种基于神经网络和逻辑规范的神经符号验证框架 Neuro-symbolic Verification,使得现有的神经网络验证基础设施可用于分析复杂的实际特性,从而避免现有神经网络验证技术的严重局限。
Mar, 2022
本文调查了最近出现的,从可达性分析、优化和搜索中获得的洞见的方法,以确保设计的深度神经网络满足特定的输入输出属性。 我们讨论了现有算法之间的根本差异和联系。 此外,我们提供了现有方法的教学实现,并在一组基准问题上进行了比较。
Mar, 2019
使用二值化神经网络 (BNNs) 的强化学习算法以提高可验证性的方法,解决了神经网络在安全关键场合应用上不可靠的问题。在训练 Atari 环境中的 BNNs 之后,我们验证了其鲁棒性属性。
Mar, 2022
本文提出了一种通用的神经网络形式验证框架,通过将验证问题转化为最优化问题,并通过我们提出的松弛算法得到可靠的上界,从而可对神经网络的输入和输出属性满足的规范进行形式化验证。
Mar, 2018
本文提出一种基于混合整数线性规划的框架,首次在电力系统应用中验证神经网络行为,能够确定神经网络分类为安全或不安全的输入范围,并且能够系统地识别对抗性示例,从而提高神经网络在电力系统中的鲁棒性和可靠性。
Oct, 2019
本文提出了一个基于贝叶斯分析的安全性论据框架,该框架使用运行数据和最新的深度学习验证技术,支持多种形式的预测,并针对实际的关键系统进行了建模和验证。
Mar, 2020