贝叶斯神经网络中概率鲁棒性的严格验证
引入了一种基于概率鲁棒性的贝叶斯神经网络(BNNs)的测量方法,定义为在某个有界集合内是否存在另一个点,使得 BNN 的预测在这两个点之间有差异的概率,并且可以用于量化对抗样本的存在概率。通过基于概率模型的统计验证技术,开发了一个框架,可以估计具有统计保证的 BNN 的概率鲁棒性,并在 MNIST 和 GTSRB 数据集的图像分类任务上提供了实验对比。结果可以在对抗环境中量化 BNN 预测的不确定性。
Mar, 2019
研究了在敌对输入扰动下,贝叶斯神经网络的概率安全性,使用非凸优化松弛技术计算贝叶斯神经网络概率安全性的下界,并且证明方法可用于对具有数百万参数的 BNN 进行概率安全性的认证。
Apr, 2020
研究了深度学习的形式验证以及提出了一种基于分支定界的族算法,并提出了新型的组合方法,以及新的有效的分支策略,将之用于高维输入上的问题,并提出包含以前发布的测试案例的全面测试数据集和基准测试。
Sep, 2019
通过贝叶斯学习的视角考虑深度神经网络的对抗训练,并提出了一种具有可证明保证的贝叶斯神经网络(BNN)的对抗训练的原则性框架。该方法可在 MNIST、FashionMNIST 和 CIFAR-10 上训练出可证明鲁棒性的模型,并用于不确定性校准。这是第一次直接训练可证明的 BNN,可促进在安全关键应用中的部署。
Feb, 2021
用具有适当启发式条件的一组算法基于神经网络的输出分布来验证其概率,同时计算和迭代优化神经网络输出概率的下界和上界,并通过应用非概率性神经网络验证中的最先进的边界传播和分支约束技术,显著提高了解决时间。
May, 2024
利用混合整数规划公式验证二值化神经网络 (BNN),检查其可行性、MNIST 数据集和飞机冲突避免控制器中的性质,并证明相较于全精度神经网络的最先进的验证算法,通过验证 BNN 节省的时间是值得的。
Mar, 2022
该研究提出了一种概率证明框架 PROVEN,用于验证神经网络在输入加噪时的鲁棒性,可证明分类器的 top-1 预测在受限的 Lp 范数扰动下不会发生改变,证书是基于现有的神经网络鲁棒性验证框架,该方法在 MNIST 和 CIFAR 神经网络模型的实验中取得了 75% 的提升。
Dec, 2018
本文提出了一种基于混合整数规划的验证方法,对分段线性神经网络进行验证,以评估其对于对抗样本的脆弱性;通过紧凑的非线性公式和新颖的预处理算法实现了两到三个数量级的计算速度提升,并成功确定了 MNIST 分类器对于一定幅值下的对抗精度,相较于同类算法提供更好的证明。
Nov, 2017
本文提出了一种基于 Binarized Neural Networks(BNNs)的验证技术(EEV),可以具有可比较的鲁棒性,并且通过使用一种策略来训练鲁棒性 BNNs,可以实现更快,更准确的验证。EEV 有效,通过在 MNIST 和 CIFAR10 数据集上展示非平凡卷积 BNN 的 L-inf-bounded 对抗性鲁棒性的首个确切验证结果可以进行性能优化。
May, 2020