Jun, 2024

ADBA：黑盒对抗攻击的近似决策边界方法

PDF
TL;DR该论文介绍了一种使用近似决策边界（ADB）的新方法，通过快速识别适当的决策边界来有效且准确地比较扰动方向，进一步发展出 ADB 算法。ADB 算法仅平均需要四个查询来区分任意一对扰动方向，具有非常高的查询效率，在六个知名图像分类器的广泛实验证明了 ADBA 和 ADBA-md 优于多个最先进的黑盒攻击方法。
adversarial attacksdecision-based black-box attacksapproximation decision boundaryperturbation directionsquery-intensive exact search
发现论文，激发创造
  • 决策型对抗攻击：针对黑盒机器学习模型的可靠攻击

    本研究介绍了基于模型决策的 Boundary Attack，它比传统基于梯度或得分的攻击更加适用于实际的黑盒模型应用，同时它不需要替代模型，比起传输攻击需要更少的知识，更容易应用，提高了机器学习模型的鲁棒性，同时也引发了有关部署机器学习系统安全性的新问题。

    Dec, 2017

  • 使用强化学习的通用分布式基于决策的黑盒对抗攻击

    研究在决策类攻击领域提出了像素级决策驱动的黑盒攻击算法，该算法使用增强学习算法找到对抗性扰动分布，经实验证明，与现有技术相比更具攻击成功率和可转移性。

    Nov, 2022

  • QEBA: 基于边界的黑盒攻击高效查询方案

    本文介绍了一种基于模型终极预测标签的查询高效边界型黑盒攻击 (QEBA)，并在 ImageNet 和 CelebA 数据集上进行了广泛的实验。实验结果表明，与最先进的黑盒攻击相比，QEBA 能够使用更少的查询次数以更低的扰动量实现攻击，并在实际 API 上展示了攻击案例。

    May, 2020

  • 基于梯度先验的决策类黑盒对抗攻击的增强

    提出了一种新颖的基于决策的黑盒攻击框架，DBA-GP，通过集成数据相关的梯度先验和时间相关的先验到梯度估计过程中，解决了边缘梯度差异和迭代梯度方向问题，从而提高了查询效率。广泛实验表明，该方法明显优于其他强基准方法。

    Oct, 2023

  • DeltaBound 攻击：低查询条件下高效的基于决策的攻击

    该文章针对深度神经网络在模型攻击方面的问题，提出了一种新的攻击方法 DeltaBound attack，该方法在 L2 范数的约束下对模型进行攻击并取得了与其他攻击方法相当甚至更好的效果。

    Oct, 2022

  • CGBA：曲率感知的几何黑盒攻击

    提出了一种新的查询高效的曲率感知几何决策黑盒攻击方法，使用半圆路径在受限的 2D 平面上进行边界搜索，有效地利用较低曲率来构造高质量的对抗样本，相比最先进的非目标和目标攻击方法显示出更优越的性能。

    Aug, 2023

  • ADDMU: 利用数据和模型不确定性估计检测远端边界对抗样本

    提出了一种新的技术 ADDMU 来检测自然语言处理中的对抗性样本， 结合两种不确定性估计的方法可以更好的识别对抗性例子并提高模型的鲁棒性。

    Oct, 2022

  • GeoDA: 一个基于几何的黑盒对抗攻击框架

    本文提出一种有效的黑盒攻击算法，用于生成三维深度神经网络的对抗样例，该算法利用网络决策边界以及小曲率特性来生成具有小 l_p 范数的有效迭代算法，该算法获得了比现有算法更好的结果。

    Mar, 2020

  • DTA: 基于分布变换的受查询限制场景攻击

    该论文通过利用对抗示例的分布特征，以困难标签黑盒设置下的条件似然函数为依据建立统计映射，从而提出了一种基于分布变换的攻击方法（DTA），该方法可以无需频繁查询目标模型，直接且高效地生成一批对抗示例，用于攻击未知模型。实验验证了该方法的有效性和优越性。

    Dec, 2023

  • 深度神经网络的决策边界研究：实证研究

    深度学习神经网络中决策边界的演变及其对抗训练的影响等领域的问题研究。

    Feb, 2020