基于梯度的 $l_0$ 范数对抗性样本的优化

Feb, 2024

基于梯度的 $l_0$ 范数对抗性样本的优化

$σ$-zero: Gradient-based Optimization of $\ell_0$-norm Adversarial Examples

Antonio Emanuele Cinà, Francesco Villani, Maura Pintor, Lea Schönherr, Battista Biggio...

TL;DR在这项研究中，我们提出了一个新的 l0 范数攻击方法，称为 sigma-zero，该方法利用了 l0 范数的一种特殊的可微近似来优化梯度，以及一个自适应的投影算子来动态调整损失最小化和扰动稀疏性之间的权衡。通过对 MNIST、CIFAR10 和 ImageNet 数据集进行广泛评估，包括稳健和非稳健模型，在不需要耗时的超参数调整的情况下，sigma-zero 发现了最小的 l0 范数对抗性示例，且在成功率、扰动大小和可扩展性方面优于所有其他竞争的稀疏攻击。

Abstract

Evaluating the adversarial robustness of deep networks to gradient-based attacks is challenging. While most attacks consider $\ell_2$- and $\ell_\infty$-norm constraints to craft input perturbations, only a few investigate sparse $\ell_1$- and $\ell_0$-norm attacks. In particular, $\el

adversarial robustness gradient-based attacks sparse attacks non-convex optimization perturbation sparsity

发现论文，激发创造

面向有效训练与评估的鲁棒模型：相对于 $l_0$ 有界对抗扰动

研究了 $l_0$ 范数约束下的稀疏对抗扰动，并提出了一种名为 sparse-PGD 的白盒 PGD 攻击方法来有效高效地生成这种扰动。此外，将 sparse-PGD 与黑盒攻击相结合，全面可靠地评估模型对 $l_0$ 约束下的对抗扰动的鲁棒性，并且 sparse-PGD 的高效性使得我们能够进行对抗性训练以构建对稀疏扰动具有鲁棒性的模型。大量实验证明，我们提出的攻击算法在不同场景下表现出很强的性能。更重要的是，与其他鲁棒模型相比，我们的对抗训练模型展示了对各种稀疏攻击的最新鲁棒性。代码可在此 https URL 找到。

May, 2024

$L_p$ 范数扭曲效率高的对抗攻击

该研究提出了一种新型 Lp 范数扰动有效的对抗攻击方法，旨在减少 L0 范数失真，通过设计优化方案和引入对抗阈值概念，实现了更好的对抗稳健性和视觉不可感知性。

Jul, 2024

阻止对抗样本：$L_0$- 鲁棒稀疏傅里叶变换

本文提供了一种新的算法，用于逼近离散傅里叶变换的近似稀疏信号，该信号被最坏情况下的 $L_0$ 噪声污染，即信号的一定数量的坐标被任意破坏。我们的技术推广到了各种线性变换，如离散余弦变换、正弦变换、Hadamard 变换及其高维模拟。我们利用该算法成功防御了图像分类领域中著名的 $L_0$ 对抗者，对 MNIST、Fashion-MNIST 数据集上的基于 Jacobian 的显著性地图攻击 (JSMA)、Carlini Wagner (CW)$L_0$ 攻击以及在 ImageNet 数据集上的对抗性补丁的实验结果进行了讨论。

Dec, 2018

稀疏且不易察觉的对抗攻击

本文提出了一种基于黑盒技术的新型对抗样本攻击方法，针对原始图像最小化 l0 距离。实验证明，该攻击方法优于或与现有技术相当。同时，我们可引入部件约束来提高分类器对稀疏和不可察觉的对抗性操纵的鲁棒性。

Sep, 2019

近乎紧致 L0 范数认证的 top-k 预测对抗扰动的稳健性

本文介绍的方法，基于随机平滑技术，能够对 top-k 预测模型对 $\ell_0$-norm 对抗扰动具有几乎紧密的保证，并在 ImageNet 数据集上验证了该方法的有效性。

Nov, 2020

关于 $l_0$ 有界对抗攻击的对抗训练的泛化性质

神经网络在输入上的微小扰动会导致错误分类，本文针对截断分类器的 l0 有界对抗攻击进行理论性能分析，证明了一个独立于分布的二分类设置的 l0 有界对抗扰动的新型泛化界限。

Feb, 2024

通过数据本地化对稀疏对抗扰动进行认证鲁棒性

通过对局部化数据分布的理解，提出了一种基于几何形态的简单分类器 Box-NN，并在 MNIST 和 Fashion-MNIST 数据集上取得了对于稀疏攻击的认证稳健性方面的最新研究成果。

May, 2024

分组稀疏和可解释的对抗攻击

通过在图像的语义相关区域同时生成群组稀疏攻击的优化算法，在保持较低干扰量的同时，显著提高了群组稀疏性，且具备较快的计算速度和百分之百的攻击成功率。

Nov, 2023

快速自适应边界攻击生成最小扭曲的对抗样本

本文提出了一种新的基于 $l_p$-norms 的白盒对抗攻击方法，通过最小化扰动的大小来改变特定输入的类别，这个方法具有几何直观性，是一种性能优越的攻击方法，比专门针对一个 $l_p$-norm 的攻击方法具有更好的鲁棒性，并且可以解决梯度掩盖的问题。

Jul, 2019

自适应范数约束的快速最小范敌对攻击

本文提出了一种既能处理不同的扰动模型，对超参数选择具有鲁棒性，又不需要对抗起始点，且仅需几步轻量级的迭代即可收敛的快速最小范数攻击方法（FMN），并通过广泛的实验表明 FMN 在收敛速度和计算时间方面明显优于现有的攻击方法，同时报告了相当或更小的扰动尺寸。

Feb, 2021