基于梯度先验的决策类黑盒对抗攻击的增强

IJCAIOct, 2023

基于梯度先验的决策类黑盒对抗攻击的增强

Boosting Decision-Based Black-Box Adversarial Attack with Gradient Priors

Han Liu, Xingshuo Huang, Xiaotong Zhang, Qimai Li, Fenglong Ma...

TL;DR提出了一种新颖的基于决策的黑盒攻击框架，DBA-GP，通过集成数据相关的梯度先验和时间相关的先验到梯度估计过程中，解决了边缘梯度差异和迭代梯度方向问题，从而提高了查询效率。广泛实验表明，该方法明显优于其他强基准方法。

Abstract

decision-based methods have shown to be effective in black-box adversarial attacks, as they can obtain satisfactory performance and only require to access the final model prediction. gradient estimation is a crit

black-box adversarial attacks decision-based methods gradient estimation dba-gp convergence speed

发现论文，激发创造

用基于迁移的先验知识加强黑盒对抗攻击

介绍了一种基于先验指导的随机无梯度（P-RFF）攻击方法，它利用了传输先验和查询信息，需要的查询次数更少、攻击黑盒模型的成功率更高，相较于现有最先进的方法。

Jun, 2019

基于函数先验的贝叶斯优化引导的高效黑盒对抗攻击

本研究提出了一种先验引导贝叶斯优化算法，用于黑盒对抗攻击，通过在查询 - based 攻击中结合白盒模型的梯度来改进查询效率。实验证明，与当前黑盒攻击算法相比，该算法在减少查询次数和提高攻击成功率方面具有明显优势。

May, 2024

有前科的：基于匪类和先验的黑匣子对抗攻击

研究黑盒设置中生成对抗性示例的问题，介绍了统一黑盒攻击的框架，并演示了现有技术在某种意义上的最优性，同时，通过引入梯度先验，提出了一种基于探险优化的算法来无缝集成梯度先验。

Jul, 2018

ADBA：黑盒对抗攻击的近似决策边界方法

该论文介绍了一种使用近似决策边界（ADB）的新方法，通过快速识别适当的决策边界来有效且准确地比较扰动方向，进一步发展出 ADB 算法。ADB 算法仅平均需要四个查询来区分任意一对扰动方向，具有非常高的查询效率，在六个知名图像分类器的广泛实验证明了 ADBA 和 ADBA-md 优于多个最先进的黑盒攻击方法。

Jun, 2024

探索对深度神经网络的黑箱攻击空间

提出了一种新的基于梯度估计的黑盒攻击方法，攻击者可以查询目标模型的类概率，无需使用可转移性。该攻击在 MNIST 和 CIFAR-10 数据集上的攻击成功率均超过 100％，同时成功攻击了 Clarifai 的实时图像分类器和最新防御方法。

Dec, 2017

高效组合优化的简约黑盒对抗攻击

本文提出了一种离散替代方法来解决黑匣子攻击的问题，该方法可以在不需要估计导数的情况下有效地攻击神经网络，降低了之前所提出方法所需的查询次数。

May, 2019

使用强化学习的通用分布式基于决策的黑盒对抗攻击

研究在决策类攻击领域提出了像素级决策驱动的黑盒攻击算法，该算法使用增强学习算法找到对抗性扰动分布，经实验证明，与现有技术相比更具攻击成功率和可转移性。

Nov, 2022

通过少量查询提高对抗样本的可迁移性

本文提出了一种名为查询先验方法的新方法，通过使用少量的查询来增强快速梯度符号法的攻击可传递性，理论分析和广泛的实验表明，我们的方法可以显著提高基于梯度的对抗攻击在 CIFAR10/100 和 ImageNet 上的可传递性，并优于具有相同少量查询的黑盒查询攻击。

May, 2022

基于投影与概率的黑盒攻击

通过压缩感知和概率驱动策略，利用少量请求达到更好的优化效果，从而解决黑盒攻击中存在的过多请求的问题，并在与其他攻击方法比较后证明其具有更高的攻击成功率。

May, 2020

决策型对抗攻击：针对黑盒机器学习模型的可靠攻击

本研究介绍了基于模型决策的 Boundary Attack，它比传统基于梯度或得分的攻击更加适用于实际的黑盒模型应用，同时它不需要替代模型，比起传输攻击需要更少的知识，更容易应用，提高了机器学习模型的鲁棒性，同时也引发了有关部署机器学习系统安全性的新问题。

Dec, 2017