JMA: 一种通用算法用于生成接近最优的有针对性攻击示例

Jan, 2024

JMA: 一种通用算法用于生成接近最优的有针对性攻击示例

JMA: a General Algorithm to Craft Nearly Optimal Targeted Adversarial Example

Benedetta Tondi, Wei Guo, Mauro Barni

TL;DR在这篇论文中，我们提出了一种更通用、在理论上更可靠的有针对性攻击方法，它通过最小化雅可比诱导的马氏距离 (JMA) 项来实现，考虑了将输入样本的潜在空间表示向某个方向移动所需的努力。所提出的算法通过利用沃尔夫对偶定理来求解这个最小化问题，将问题简化为求解一个非负最小二乘（NNLS）问题。实验证明所提出的攻击具有广泛的适用性，可在多种输出编码方案下发挥有效作用。值得注意的是，JMA 攻击也在多标签分类场景中表现出了良好的效果，能够改变复杂的具有 20 个标签的多标签分类情境中最多一半的标签，这是所有迄今为止提出的攻击方法所无法做到的。此外，JMA 攻击通常只需要很少的迭代次数，因此比现有的方法更高效。

Abstract

Most of the approaches proposed so far to craft targeted adversarial examples against deep learning classifiers are highly suboptimal and typically rely on increasing the likelihood of the target class, thus impl

adversarial examples deep learning targeted attack jacobian-induced mahalanobis distance output encoding schemes

发现论文，激发创造

基于极大雅可比值的显著性地图攻击

在图像分类任务中，我们提出了两种 JSMA 的变体，可以使模型误将饱和的像素分类为指定的错误目标类别，无需指定目标类别以及是否只增加或减少像素强度，并且降低了分类时间，可应用于手写数字和自然场景的数据集中。

Aug, 2018

对文本分类器的可逆跳跃攻击和修改降维

提出了两种算法（RJA 和 MMR）来生成高效的对抗样本并提高样本的不可察觉性，并通过广泛实验表明，RJA-MMR 在攻击性能、不可察觉性、流畅性和语法正确性等方面优于当前最先进的方法。

Mar, 2024

自然语言流畅的对抗样本生成

本文提出了一种名为 MHA 的技术，采用 Metropolis-Hastings 采样，并结合梯度指导的方法构建攻击模型，实验证明该模型在攻击能力上优于基准模型，采用该模型进行对抗训练也能提高模型的稳健性和性能。

Jul, 2020

MMA 训练：通过对抗训练直接输入空间边际最大化

该研究从最大化边界的角度研究了神经网络的对抗鲁棒性，并提出了 Max-Margin Adversarial（MMA）训练方法，以直接最大化边界来实现对抗鲁棒性，通过该方法在 MNIST 和 CIFAR10 数据集中实现了 robust 性

Dec, 2018

通过多任务学习实现可扩展的对抗攻击归因

本研究提出了一个名为 MTAA 的多任务学习框架，可以同时识别攻击算法、受害模型和超参数三个签名，并使用不确定性加权损失来调整权重，从而提高该框架对于误报的处理能力。

Feb, 2023

最大马氏线性判别分析网络

本文提出了一种新型的 Max-Mahalanobis linear discriminant analysis (MM-LDA) 神经网络，结合了深度神经网络中的非线性变换和分类器的优化，这种方法在应对对抗攻击方面更具鲁棒性，并且在类别不平衡分类的表现也更加出色。

Feb, 2018

使用有限的查询和 GAN 进行无限制黑盒对抗攻击

本文通过使用 GAN 生成无约束对抗样本并在潜空间中成功操纵潜向量以欺骗分类模型，提出了一个新的方法：Latent-HSJA，该方法在黑盒设置中只能访问分类模型的前 k 项决策，是对少量查询的分类模型强度评估的有效方法。

Aug, 2022

元梯度对抗攻击

本文提出了一种名为 Meta Gradient Adversarial Attack（MGAA）的新型结构，采用元学习的思想，插入攻击方法以提高跨模型的传递性，通过缩小白盒和黑盒攻击之间的梯度方向差距来改善黑盒设置下的对抗样本的传递性。在 CIFAR10 和 ImageNet 数据集上的实验结果表明，本文所提出的结构在黑盒和白盒攻击设置方面胜过了现有的最先进方法。

Aug, 2021

基于 ADMM 的深度神经网络敌对攻击通用框架

本文采用 ADMM（Alternating Direction Method of Multipliers）的算子分裂优化方法来生成对抗样本，统一了 L0，L1，L2 和 L infinity 攻击的方法，与当前领先的攻击方法相比，实验结果表明本文的 ADMM-based methods 是迄今为止最强的，能够实现 100% 攻击成功率和最小扰动。

Apr, 2018

HQA-Attack: 面向文本黑盒硬标签高质量对抗攻击

在黑盒硬标签文本对抗攻击中，提出了一种名为 HQA-Attack 的简单而有效的框架，可以在有限的查询预算下生成高质量的文本对抗样本，具有高语义相似性和低扰动率。

Feb, 2024