图像分类器的稀疏对抗攻击：L1-APGD 注意约束

ICMLMar, 2021

图像分类器的稀疏对抗攻击：L1-APGD 注意约束

Mind the box: $l_1$-APGD for sparse adversarial attacks on image classifiers

Francesco Croce, Matthias Hein

TL;DR研究了基于 $l_1$ 投影的梯度下降算法，提出一种自适应算法 $l_1$-APGD 用于攻击和对抗训练，通过 $l_1$-AutoAttack 可以可靠地评估 $l_1$-ball 和 $[0,1]^d$ 威胁模型下的对抗容忍度。

Abstract

We show that when taking into account also the image domain $[0,1]^d$, established $l_1$-projected gradient descent (PGD) attacks are suboptimal as they do not consider that the effective threat model is the intersection of the $l_1$-ball and $[0,1]^d$. We study the expected sparsity of the steepest descent step for this effective threat model and show that

l1 projected gradient descent adversarial training l1-robustness l1 autoattack computational feasibility

发现论文，激发创造

面向有效训练与评估的鲁棒模型：相对于 $l_0$ 有界对抗扰动

研究了 $l_0$ 范数约束下的稀疏对抗扰动，并提出了一种名为 sparse-PGD 的白盒 PGD 攻击方法来有效高效地生成这种扰动。此外，将 sparse-PGD 与黑盒攻击相结合，全面可靠地评估模型对 $l_0$ 约束下的对抗扰动的鲁棒性，并且 sparse-PGD 的高效性使得我们能够进行对抗性训练以构建对稀疏扰动具有鲁棒性的模型。大量实验证明，我们提出的攻击算法在不同场景下表现出很强的性能。更重要的是，与其他鲁棒模型相比，我们的对抗训练模型展示了对各种稀疏攻击的最新鲁棒性。代码可在此 https URL 找到。

May, 2024

集成对抗攻击的高效项目梯度下降

本文介绍了对抗性样本攻击中的两种方法：PGD 方法和 C&W 方法，针对集成模型的攻击，主张使用改进型 PGD 方法达到更高的攻击效率。

Jun, 2019

分布式对抗攻击

本文提出了一种解决最优对抗数据分布的方法 —— 分布式对抗攻击（DAA），通过在潜在数据分布空间上进行优化，使攻击样本具有更好的泛化性，实验表明其在对抗训练的模型上的攻击效果优于其他对抗攻击方法。

Aug, 2018

PDPGD: 原始 - 对偶近端梯度下降对抗性攻击

研究了基于优化问题的对抗攻击，使用双重变量来最小化对抗性噪声与规则化惩罚，针对非光滑 $p$- 范数进行极值点下降攻击，实验表明，比当前最先进的攻击方法在 MNIST、CIFAR-10 和受限制的 ImageNet 数据集上都优异表现。

Jun, 2021

减少梯度逼近的对抗训练成本

采用梯度逼近的对抗训练方法能够减少建立稳健模型的成本，而对于常见数据集如 MNIST、CIFAR-10 和 CIFAR-100，该方法在训练时间上节省了高达 60% 的时间，并且在模型测试准确性上没有明显损失。

Sep, 2023

稀疏且不易察觉的对抗攻击

本文提出了一种基于黑盒技术的新型对抗样本攻击方法，针对原始图像最小化 l0 距离。实验证明，该攻击方法优于或与现有技术相当。同时，我们可引入部件约束来提高分类器对稀疏和不可察觉的对抗性操纵的鲁棒性。

Sep, 2019

关于对抗训练的泛化性质

本论文研究了一种泛用的对抗训练算法的泛化性能，并考虑了线性回归模型和两层神经网络（使用平方损失）在低维和高维情况下的表现，其中，我们发现数据内插会防止对抗性鲁棒估算器的一致性，因此，我们引入 L1 惩罚，在高维对抗学习中，证明了它可以导致一致的对抗性鲁棒估计。

Aug, 2020

稀疏约束下线性反问题的加速投影梯度方法

本文探讨了使用 l1 惩罚解决几乎稀疏线性逆问题的正则化方法，并提出了一种基于投影梯度方法并使用可变阈值参数的迭代软阈值算法的替代方案。

Jun, 2007

低维对抗扰动的起源

本文研究了低维敌对干扰、通用性敌对干扰等与分类有关主题，并给出了关于低维敌对干扰欺骗率的严格分析及与最近的启发式方法的成功之间的解释。实验证明了理论上的结果。

Mar, 2022

使用坐标轴下降算法训练带 L1 正则项的模型

本文提出了基于维度的被动下降算法（OPDA），它使用了随机变量减少梯度 (SVRG) 来初始化下降方向，并应用了一种新的对齐操作来促进每个元素在更新后保持相同的符号，从而参数保持在之前的正半轴。它还明确抑制了每个元素的大小，以强加稀疏性，演示了 OPDA 在训练稀疏模型方面的超越现有的随机近端算法，并在总体上得到验证。

Apr, 2017