通过覆盖验证设计增强少像素的鲁棒性验证

May, 2024

通过覆盖验证设计增强少像素的鲁棒性验证

Boosting Few-Pixel Robustness Verification via Covering Verification Designs

Yuval Shapira, Naor Wiesel, Shahar Shabelman, Dana Drachsler-Cohen

TL;DRCoVerD 是一种通过预测其块大小分布选择不同候选覆盖的 $L_0$ 鲁棒性验证器，能够减少验证时间并适用于更大的 $L_0$ε- 球。

Abstract

Proving local robustness is crucial to increase the reliability of neural networks. While many verifiers prove robustness in $L_\infty$ $\epsilon$-balls, very little work deals with robustness verification in $L_0$ $\epsilon$-balls, capturing robustness to few pixel attacks. This verif

local robustness neural networks $l_0$ robustness combinatorial design verification time

发现论文，激发创造

通过数据本地化对稀疏对抗扰动进行认证鲁棒性

通过对局部化数据分布的理解，提出了一种基于几何形态的简单分类器 Box-NN，并在 MNIST 和 Fashion-MNIST 数据集上取得了对于稀疏攻击的认证稳健性方面的最新研究成果。

May, 2024

对抗样本的可证明证书：在多面体的并集中嵌套一个球体

该研究提出了一种计算具有凸性 $p$- 范数的深度神经网络的点对点鲁棒性的新方法，算法 GeoCert 可以在复杂的神经网络中输出距离下界，且该方法比以前的方法更紧凑。

Mar, 2019

神经网络紧致鲁棒性验证的凸松弛屏障

本文介绍一种基于凸松弛框架的神经网络强鲁棒性验证算法，通过大量实验发现该算法在已有松弛算法上并没有显著提高，提示了一类算法具有固有的严格验证难度。

Feb, 2019

快速几何投影用于本地鲁棒性认证

本文提出了一种在前馈神经网络中检查局部鲁棒性的快速程序，通过几何投影分析给定点周围区域内的决策边界以及将输入空间划分为凸多面体区域的方式，在高效同时保证准确性，解决了之前使用的不精确验证方法和全面验证者效果不佳的问题。

Feb, 2020

针对对抗鲁棒性的分层验证

该研究提出了一种名为 LayerCert 的新框架，利用 ReLU 网络的分层几何结构解决点精确的 L_p 鲁棒性问题，进一步减少所需解决的凸规划数量和大小并提高了性能。

Jul, 2020

为提高对抗性鲁棒性而放弃像素

随机子样本和高丢失率的应用可以提高深度神经网络对抗性攻击的鲁棒性，同时以抵御一定的精度损失为代价获取新的稳健特征。

May, 2019

基于游戏的深度神经网络近似验证及可证明保证

通过离散化输入空间，使用有限优化来逼近点称健壮性的两种变体问题，并证明误差有界，进一步通过解决二人博弈问题的方式解决这些优化问题，该论文提供了一种框架来评估神经网络的点称健壮性。

Jul, 2018

基于随机剪枝的稀疏对抗攻击鲁棒性证明

使用基于随机平滑的 L1 和 L2 变换来保证分类器对于固定 L0 干扰大小的分类鲁棒性，并提出了一种高效且可验证的防御方法，通过使用随机消融的输入特征而非加性噪声来对抗稀疏的对抗干扰攻击，实验结果验证了其在 MNIST、ImageNet 和 CIFAR-10 上有效的性能。

Nov, 2019

用于相机运动扰动下的认证鲁棒性的像素级平滑化

通过在 2D 像素空间上使用平滑分布，而不是在 3D 物理空间中进行采样，增强了鲁棒性认证的效率，并在融合车辆运动空间的均匀分区技术的基础上，实现了对 3D-2D 投影转换的鲁棒性认证。

Sep, 2023

近乎紧致 L0 范数认证的 top-k 预测对抗扰动的稳健性

本文介绍的方法，基于随机平滑技术，能够对 top-k 预测模型对 $\ell_0$-norm 对抗扰动具有几乎紧密的保证，并在 ImageNet 数据集上验证了该方法的有效性。

Nov, 2020