Mar, 2021

QAIR: 实用的查询效率高的黑盒攻击图像检索

PDF
TL;DR本研究通过 Quantifying the Attack Effects on the Partial Retrieved List 方法，提出了第一种针对黑盒情况下图片检索的基于查询的攻击（QAIR）方法，并采用了新的基于相关性的损失设计和递归模型窃取方法，通过少量请求，成功地欺骗了 Bing 视觉搜索这样的商业系统。
发现论文，激发创造
  • 一种基于查询的黑盒方法探索无参考图像质量评估模型的漏洞

    本文提出了一种基于查询的黑盒攻击方法，通过使用多个分数边界和人类视觉系统的特性，使得攻击方法能够有效地测试无参考图像质量评估方法的稳健性。实验证明，该攻击方法优于其他先进方法，并揭示了 NR-IQA 在黑盒攻击下的脆弱性，同时为进一步研究 NR-IQA 的稳健性提供了有力工具。

    Jan, 2024

  • 图像质量评估模型的黑盒对抗攻击

    本文首次尝试探索黑盒对抗攻击 NR-IQA 模型，通过最大限度地增加原始和扰动图像的质量评分之间的差异来误导对抗性示例的估计质量评分，针对 NR-IQA 模型开发出一种高效和有效的黑盒攻击方法。广泛实验表明，所有评估的 NR-IQA 模型都对该攻击方法存在漏洞，生成的扰动不可转移，有助于研究不同 IQA 模型的特性。

    Feb, 2024

  • 黑盒环境下查询效率攻击的强基准

    该研究提出了一种查询效率高的攻击策略来生成文本分类和蕴含任务中的可信对抗性样例，并通过使用注意力机制和局部敏感哈希来减少查询次数。对三个不同的搜索空间使用四种基线进行比较，平均来说我们在所有数据集和目标模型中将查询次数降低了 75％。在受限查询设置中，与以前的攻击相比，我们的攻击成功率更高。

    Sep, 2021

  • 高效率黑盒对抗样本查询（已被取代）

    本文提出了一种新的方法，利用自然进化策略在黑盒攻击下生成可靠的对抗样本，并通过新的算法在部分信息下进行有针对性的攻击，无需使用梯度，可以使用少量的请求操作，成功地对商业部署的机器学习系统进行了第一次有针对性的攻击。

    Dec, 2017

  • 简单黑盒对抗攻击

    本文介绍了一个基于连续数值置信度分数的、高效构建黑盒中敌对图像的简单迭代算法，并且该算法同样适用于有目标和无目标攻击。作者使用少于 20 行的 PyTorch 代码在 Google Cloud Vision API 中展示了该算法的高效和有效性。

    May, 2019

  • 基于硬标签的小样本黑盒对抗攻击

    提出了一种新的针对硬标签的黑盒攻击的优化方法，利用经预训练的替代模型指导优化过程，实验证明该方法在不同目标模型架构下显著提高了攻击的查询效率，攻击成功率较基准测试提高了约 5 倍，特别是在 100 和 250 个查询预算下。

    Mar, 2024

  • 弥合差距：在基于查询的攻击中实现更好的准确性和鲁棒性权衡

    在缓解基于查询的攻击时，我们的方法能够有效建立鲁棒性和准确性之间的权衡，通过针对低置信度输入激活专用防御措施，从而提供更好的鲁棒性和准确性的权衡，无需训练。

    Dec, 2023

  • 面向查询高效的黑盒攻击：一种无输入视角

    本文提出了一种名为 “无需输入” 的攻击方法，用于深度神经网络的对抗攻击，该方法不需要进行大量的查询，可以通过任意图像添加可以感知的扰动来生成对抗性图像。该方法通过灰度图像的初始化和局部扰动与平铺技术来显着降低了查询复杂度，并成功击败了 Clarifai 食品检测 API 和百度动物识别 API。

    Sep, 2018

  • 具有查询次数和信息限制的黑盒对抗攻击

    本文通过定义三种现实世界分类系统的威胁模型（查询限制，部分信息和仅标签），并开发了新的攻击方法，成功的攻击了一个 ImageNet 分类器，并成功的突破了 Google Cloud Vision API 的限制来进行有针对性的黑盒攻击。

    Apr, 2018

  • 低查询预算环境中，简单高效且硬标签黑盒对抗攻击

    提出了一种使用贝叶斯优化来进行黑盒攻击的方法，通过在结构性低维子空间中搜索对抗样本来避免 BO 在高维度下的性能问题，实验结果显示该方法相较现有黑盒攻击算法需要更少的查询次数，并且攻击成功率提高了 2 到 10 倍。

    Jul, 2020