基于集成梯度的可迁移对抗攻击

May, 2022

Transferable Adversarial Attack based on Integrated Gradients

Yi Huang, Adams Wai-Kin Kong

TL;DR通过将标准客观函数优化、利用注意力图和平滑决策表面三种方法紧密整合，我们在本文中提出了一种新的简单算法 TAIG (Transferable Attack based on Integrated Gradients)，它可以为黑盒攻击寻找高度可转移的敌对样本，两个版本的 TAIG 都计算了沿着直线或随机分段线性路径的积分梯度，均具有很强的可转移性，并且可以与以前的方法无缝协同工作。实验结果表明，TAIG 优于现有的最先进方法。

Abstract

The vulnerability of deep neural networks to adversarial examples has drawn tremendous attention from the community. Three approaches, optimizing standard objective functions, exploiting attention maps, and smoot

neural networks adversarial examples transferable attack integrated gradients black-box attacks

发现论文，激发创造

元梯度对抗攻击

本文提出了一种名为 Meta Gradient Adversarial Attack（MGAA）的新型结构，采用元学习的思想，插入攻击方法以提高跨模型的传递性，通过缩小白盒和黑盒攻击之间的梯度方向差距来改善黑盒设置下的对抗样本的传递性。在 CIFAR10 和 ImageNet 数据集上的实验结果表明，本文所提出的结构在黑盒和白盒攻击设置方面胜过了现有的最先进方法。

Aug, 2021

使对抗样本更易于迁移和难以区分

通过应用 Adam 迭代快速梯度 tanh 方法 (AI-FGTM) 来生成具有高传递性的难以区分的对抗性例子，其成功率更高，具有更好的传递性和难以区分性。

Jul, 2020

通过平移不变攻击规避转移对抗样本的防御

本文提出了一种翻译不变攻击方法，该方法利用一个翻译图像集合上的扰动以生成更易于转移的对抗示例，并表明该方法通常适用于任何梯度攻击方法。作者在 ImageNet 数据集上广泛实验验证了该方法的有效性，并证明该攻击技术的存在不安全性。

Apr, 2019

提升对抗传递性的技巧包

通过对现有对抗性攻击的仔细研究，我们提出了一系列技巧来增强对抗性传递性，包括动量初始化、计划的步长、双重示例、基于频谱的输入变换和几种集成策略。在 ImageNet 数据集上的大量实验验证了我们提出的技巧的高效性，并表明结合它们可以进一步增强对抗性传递性。我们的工作提供了实用的见解和技术，以增强对抗性传递性，并通过简单的调整指导提高对现实世界应用的攻击性能。

Jan, 2024

梯度细化改善对抗迁移能力

采用梯度修正的方法，可进一步提高对抗性转移性，通过对多个转换引入的无用梯度进行修正，我们的方法在 ImageNet 数据集上可以实现 82.07％的平均转移成功率，在单模型设置下胜过其他最先进的方法的平均 6.0％，并且我们已将所提出的方法应用于由阿里巴巴组织的 CVPR 2021 ImageNet 无限制对抗攻击比赛中，攻击成功率在 1558 支队伍中排名第二。

May, 2021

神经网络的梯度对抗训练

本文介绍一种深度学习的补充框架：梯度对抗性训练，在此框架下，作者采用辅助网络来分类并调整梯度张量以实现统一性，进而增强了对抗攻击的鲁棒性，更好地在知识蒸馏及多任务学习中表现，并充分展示了梯度信息在训练过程中的重要性。

Jun, 2018

基于转移的对抗攻击的自适应图像转换

本文提出了一种名为自适应图片转换学习器（AITL）的新型结构，该结构将不同的图片转换操作集成到统一的框架中，进一步提高对抗样本的可转移性，实验表明该方法在 ImageNet 上的攻击成功率显著提高。

Nov, 2021

基于梯度的对抗攻击：针对文本转换器

本文提出了首个基于梯度的通用攻击转换器模型算法，通过搜索由连续矩阵参数化的对抗性样本分布实现梯度优化，并在各种自然语言任务中证明其白盒攻击表现的最先进性。此外，本文还展示使用对对抗分布进行采样实现的强大黑盒转移攻击匹配或超越现有方法，而仅需要硬标签输出。

Apr, 2021

特征重要性感知的可迁移对抗攻击

本文提出了一种特征重要性感知攻击（FIA）方法，使用源模型的特征图梯度平均来计算特征重要性，以指导搜索对关键特征造成干扰的对抗性样本，从而改善对手对未知模型的攻击效果。

Jul, 2021

高度可转移的目标攻击的 AutoAugment 输入转换

本文提出了一种新的有针对性的对抗攻击方法，称为 AutoAugment Input Transformation (AAIT)，通过搜索最佳的转换策略，并利用找到的最佳转换策略来生成对抗样本，从而提升有针对性攻击中的对抗传递性能。通过在 CIFAR-10 和 ImageNet-Compatible 数据集上进行广泛实验，证明了所提出的 AAIT 方法明显优于其他基于传递性的有针对性攻击方法。

Dec, 2023