本文介绍了一种基于模型终极预测标签的查询高效边界型黑盒攻击 (QEBA),并在 ImageNet 和 CelebA 数据集上进行了广泛的实验。实验结果表明,与最先进的黑盒攻击相比,QEBA 能够使用更少的查询次数以更低的扰动量实现攻击,并在实际 API 上展示了攻击案例。
May, 2020
提出了一种在查询有限环境下构造强大对抗性例子的新框架 STBA,通过引入流场到干净图像的高频部分来生成对抗性例子,结合有效的梯度估计方法,显著提高了对抗性例子的真实性和攻击成功率。
Mar, 2024
深度神经网络易受微小且难以察觉的扰动影响。基于查询的黑盒攻击(QBBA)能够利用图像查询的模型输出概率创建扰动,而无需访问底层模型。QBBA 给现实世界应用带来了真实威胁。最近,人们通过各种鲁棒性方法来防御 QBBA。在本文中,我们首先对 QBBA 的随机性防御策略进行分类。根据我们的分类法,我们建议研究基于非加性随机性的模型防御 QBBA。具体而言,我们关注于基于灵活架构的未被充分探索的 Vision Transformers。广泛的实验表明,所提出的防御方法能够在不过多降低性能的情况下实现有效的防御。
Sep, 2023
本研究提出了一种理论框架,用于分析和改善边界黑盒攻击的查询效率,发现攻击的最佳尺度可以显著提高效率,并提出了基于逐步缩放技术的 Progressive-Scale enabled projective Boundary Attack (PSBA-PGAN) 来提高查询效率,实验表明,PSBA-PGAN 在多个数据集和模型上的攻击成功率和查询效率都优于现有的攻击方法。
Jun, 2021
文章研究黑盒对抗攻击问题,提出了一种基于贝叶斯优化的高效查询算法,使用维度上采样技术优化了对深度学习模型的优化,并取得了比其他算法更优的效果。
Sep, 2019
本文介绍了一个基于连续数值置信度分数的、高效构建黑盒中敌对图像的简单迭代算法,并且该算法同样适用于有目标和无目标攻击。作者使用少于 20 行的 PyTorch 代码在 Google Cloud Vision API 中展示了该算法的高效和有效性。
May, 2019
本文提出了一种基于神经过程的黑盒对抗攻击方法(NP-Attack),利用神经过程对图像结构信息进行建模,以提高查询效率,实验结果表明,NP-Attack 能显著减少黑盒情况下的查询次数。
Sep, 2020
提出了一种基于启发式算法的黑盒视频识别攻击模型,生成的对抗扰动仅作用于筛选的视频帧和区域,大大降低了计算成本和减少了查询次数,攻击效果明显。
Nov, 2019
本文提出了一种使用贝叶斯优化方法对黑盒序列数据模型进行查询有效的对抗样本攻击,有效地提高了攻击成功率并且减小了查询次数和修改率。
Jun, 2022
本研究提出了一种先验引导贝叶斯优化算法,用于黑盒对抗攻击,通过在查询 - based 攻击中结合白盒模型的梯度来改进查询效率。实验证明,与当前黑盒攻击算法相比,该算法在减少查询次数和提高攻击成功率方面具有明显优势。
May, 2024