重新思考针对对抗迁移的反向传播

Jun, 2023

重新思考针对对抗迁移的反向传播

Rethinking the Backward Propagation for Adversarial Transferability

Xiaosen Wang, Kangheng Tong, Kun He

TL;DR本文提出了一种新方法，即 Backward Propagation Attack（BPA），以增强与输入图像相关的梯度和损失函数之间的关联性，从而生成更具有传递性的对抗性样本，这在提高对真实世界应用的攻击中有很大的潜力。

Abstract

transfer-based attacks generate adversarial examples on the surrogate model, which can mislead other black-box models without any access, making it promising to attack real-world applications. Recently, several w

adversarial examples transfer-based attacks non-linear layers backward propagation attack adversarial transferability

发现论文，激发创造

线性反向传播提高对抗样本的可迁移性

本文研究深度神经网络中对抗样本易受攻击的问题，通过引入线性反向传播的方法，增强了对抗样本的传递性，实现了更加有效的黑盒攻击。

Dec, 2020

提升对抗传递性的技巧包

通过对现有对抗性攻击的仔细研究，我们提出了一系列技巧来增强对抗性传递性，包括动量初始化、计划的步长、双重示例、基于频谱的输入变换和几种集成策略。在 ImageNet 数据集上的大量实验验证了我们提出的技巧的高效性，并表明结合它们可以进一步增强对抗性传递性。我们的工作提供了实用的见解和技术，以增强对抗性传递性，并通过简单的调整指导提高对现实世界应用的攻击性能。

Jan, 2024

通过添加对抗梯度改进反向传播

本文介绍了使用对抗训练算法来提高神经网络的鲁棒性，并且验证了该方法适用于各种不同类型的神经网络，通过实验证明对抗反向传播是一种有效的正则化方法。

Oct, 2015

转移攻击再探：在实际计算机视觉环境下的大规模经验研究

本文通过大规模系统的实证研究，探究了云端机器学习服务平台的漏洞和其普遍存在的在深度神经网络中的 “对抗攻击” 问题，发现先前的假设和结论在真实世界环境下不再一致，并指出了对未来研究方向的启示。

Apr, 2022

对抗性迁移的反向传播路径搜索

在这篇论文中，我们提出了一种名为 PAS（backPropagation pAth Search）的方法，通过构建基于 DAG 的搜索空间、利用一步近似进行路径评估，并采用贝叶斯优化来搜索最优路径，以提高对抗攻击的成功率。我们进行了广泛的实验，结果显示 PAS 在各种转移设置下显著提高了对正常训练模型和防御模型的攻击成功率。

Aug, 2023

理解和提升对抗样本的可迁移性

本文系统研究了影响对抗样本传递性的两类因素，包括网络结构、测试精度等模型特定因素和构建对抗样本的损失函数的局部光滑性。基于这些理解，提出了一种简单而有效的策略来增强传递性，称为方差降低攻击，因为它利用方差降低梯度来生成对抗样本，实验结果表明其有效性。

Feb, 2018

来自贝叶斯神经网络的有效且可迁移的对抗样本

使用贝叶斯深度学习技术，以神经网络权重的后验分布进行抽样建立一个 surrogate，可以进一步提高黑盒攻击的可转移性，本文探究了提高攻击可转移性的训练方法，将我们方法的表现与几种已有方法进行了比较，能够在 ImageNet 上获得 94% 的准确率。

Nov, 2020

通过平移不变攻击规避转移对抗样本的防御

本文提出了一种翻译不变攻击方法，该方法利用一个翻译图像集合上的扰动以生成更易于转移的对抗示例，并表明该方法通常适用于任何梯度攻击方法。作者在 ImageNet 数据集上广泛实验验证了该方法的有效性，并证明该攻击技术的存在不安全性。

Apr, 2019

探究可转移的对抗样本和黑盒攻击

本文首次对大规模数据集和大型模型进行了对抗样本的可迁移性的研究，同时也是首次研究了设计有目标的对抗样本在其目标标签之间的可转移性。通过新颖的集成方法，本文发现大量有目标的对抗样本可以成功地与其目标标签一起转移，并且这些使用集成方法生成的对抗样本可以成功地攻击黑匣子图像分类系统 Clarifai.com。

Nov, 2016

通过块置换和旋转增强对抗传递能力

通过观察已有的基于输入变换的攻击方法在不同模型上产生不同的关注热图，并发现破坏图像的内在关系可以扰乱原始图像的关注热图，我们提出了一种新的基于输入变换的攻击方法，称为块洗牌和旋转（BSR），通过将输入图像分成几个块，随机洗牌和旋转这些块来构造一组新的图像用于梯度计算。我们在 ImageNet 数据集上对 BSR 进行了实证评估，结果显示在单模型和集成模型设置下，BSR 的迁移性能明显优于现有的基于输入变换的方法。将 BSR 与当前的输入变换方法相结合，能进一步提高迁移性能，明显优于最先进的方法。

Aug, 2023