CT-GAT: 基于迁移能力的跨任务生成对抗性攻击

EMNLPOct, 2023

CT-GAT: 基于迁移能力的跨任务生成对抗性攻击

CT-GAT: Cross-Task Generative Adversarial Attack based on Transferability

Minxuan Lv, Chengwei Dai, Kun Li, Wei Zhou, Songlin Hu

TL;DR我们提出了一种新颖的方法，通过提取不同任务间可转移的特征，直接构建对抗样本，并利用这些特征生成适用于不同任务的对抗样本，在十个不同数据集上的实验结果表明，我们的方法在攻击性能上取得了卓越的表现，并且成本较小。

Abstract

neural network models are vulnerable to adversarial examples, and adversarial transferability further increases the risk of adversarial attacks. Current methods based on transferability often rely on substitute m

neural network models adversarial examples adversarial transferability sequence-to-sequence generative model attack performance

发现论文，激发创造

图像和视频对象检测的可传递对抗性攻击

本研究提出了一种基于生成对抗网络（GAN）框架的方法，通过联合训练高级别类别损失和低级别特征损失，获得生成对抗图像和视频，并成功解决了对目标检测模型的对抗攻击中存在的二合一问题：低的迁移能力和高的计算成本。

Nov, 2018

通过减少离散度增强对抗样本的跨任务黑盒可迁移性

本文研究了对神经网络的对抗样本跨任务迁移性的攻击，超越了现有攻击的限制，并针对计算机视觉中的多种任务提出了一种新的攻击方法。

Nov, 2019

GE-AdvGAN：基于梯度编辑的对抗生成模型改进对抗样本的可传递性

通过优化生成器参数的训练过程并引入梯度编辑机制，GE-AdvGAN 算法能够生成高度可迁移的对抗样本并在执行时间上与现有方法相比保持最小化。

Jan, 2024

可迁移的语义分割攻击

对语义分割模型进行全面分析，发现传统的对抗攻击方法无法很好地转移到目标模型，因此需要研究适用于语义分割的可传递攻击方法。通过有效的数据增强、平移不变特征以及稳定的优化策略，提出了一种基于集成的语义分割攻击方法，以实现更有效且具有更高可传递性的攻击。

Jul, 2023

具有可迁移性对抗样本的有效对抗训练

该研究论文介绍了新型对抗训练方法 ATTA，利用同一训练进程中相邻时期的模型具有高可转移性的特点，通过积累对抗扰动来增强训练模型的鲁棒性，并显著提高训练效率。相较于最先进的对抗训练方法，ATTA 在 CIFAR10 数据集上能提高 7.2% 的对抗准确性，在 MNIST 和 CIFAR10 数据集中只需 12-14 倍的训练时间就可以达到可比的模型鲁棒性。

Dec, 2019

元梯度对抗攻击

本文提出了一种名为 Meta Gradient Adversarial Attack（MGAA）的新型结构，采用元学习的思想，插入攻击方法以提高跨模型的传递性，通过缩小白盒和黑盒攻击之间的梯度方向差距来改善黑盒设置下的对抗样本的传递性。在 CIFAR10 和 ImageNet 数据集上的实验结果表明，本文所提出的结构在黑盒和白盒攻击设置方面胜过了现有的最先进方法。

Aug, 2021

深度神经网络中对抗性样本的可迁移性调查

深度神经网络的关键问题之一是对抗性攻击和转移性，考虑到安全性和未来的发展，需要加强对抗性漏洞的防御。

Oct, 2023

消除对抗攻击在计算机网络间的传递能力整理

我们提出了一种新颖和全面的方法，以提高对卷积神经网络（CNNs）中对抗性示例的攻击强度和传递性的评估，以及验证计算机网络应用中是否存在传递性问题。我们的研究结果表明，即使在计算机网络应用中，对抗性示例对安全的威胁需要开发新的防御机制来增强深度学习技术的安全性。

Oct, 2023

探究可转移的对抗样本和黑盒攻击

本文首次对大规模数据集和大型模型进行了对抗样本的可迁移性的研究，同时也是首次研究了设计有目标的对抗样本在其目标标签之间的可转移性。通过新颖的集成方法，本文发现大量有目标的对抗样本可以成功地与其目标标签一起转移，并且这些使用集成方法生成的对抗样本可以成功地攻击黑匣子图像分类系统 Clarifai.com。

Nov, 2016

可转移对抗攻击的基准评估

本研究首次详细审查了对抗性攻击的可转移性方面，系统地分类和评估了各种用于增强对抗性攻击可转移性的方法学。同时，本文引入了一个基准框架 TAA-Bench，集成了十种领先的对抗性攻击可转移性方法，为跨不同模型结构的比较分析提供了一种标准化和系统化的平台。通过全面审查，我们描述了每种方法的有效性和限制，并揭示了它们的操作原理和实际效用，旨在成为该领域学者和实践者的基本资源，为对抗性可转移性的复杂领域绘制地图并为未来的探索奠定基础。

Feb, 2024