Apr, 2024

抢先行动，后继攻击：评估目标检测系统对黑盒对抗攻击的鲁棒性

PDF
TL;DR利用‘偷现，解密后’的攻击方式，在黑盒情况下生成幽灵对象的可行性研究，证明了该攻击可以成功地利用 AI 服务的潜在漏洞，给 AI 安全带来了重大威胁。
发现论文，激发创造
  • 对抗检测：实时攻击目标检测

    本研究提出了第一种实时在线攻击物体检测模型的方法，通过构造虚假物品边界框等三种攻击方式对物体检测模型进行攻击，成功率高达 90％，适用于动态环境中，并提供了演示视频。

    Sep, 2022

  • 隐形的贴片：自然黑盒对目标检测器的敌对攻击

    该研究提出一种基于生成对抗网络（GAN）图像流形和物理世界的无梯度攻击方法，用于生成自然物理的对抗贴片以欺骗对目标物体检测器的分类。结果表明，该方法在数字和物理场景下均有效。

    Mar, 2023

  • 针对边缘设备物体检测的延迟攻击

    本文探讨了深度学习应用程序遭受的延迟攻击，并提出了一种新的框架名称为 Overload，用于在物体检测中生成这种攻击。实验结果表明，相比现有方法，我们的攻击方法更简单更有效。

    Apr, 2023

  • 简单透明对抗样本

    通过引入秘密嵌入和透明对抗性示例作为一种更简单的评估鲁棒性的方法，本文在实际部署的 Google Cloud Vision API 和 Microsoft Azure 的 Computer Vision API 等场景下评估其恶意攻击的成功率，结果表明这种方法非常容易使人产生视觉上的欺骗，并能成功逃避现有的最先进 API，为当前研究提供一种补充的鲁棒性评估方法。

    May, 2021

  • 制作隐形斗篷：对物体检测器的现实世界对抗攻击

    本文系统研究了对最先进目标检测框架的对抗攻击，证明了其有效性，在不同环境下针对多种检测模型具有广泛的适应性，同时研究了使用印刷海报和可穿戴衣服进行的物理攻击，并用不同的度量方法对这些攻击的性能进行详细的分析。

    Oct, 2019

  • 基于掩码的目标检测隐形后门攻击

    在该研究中，我们提出了一种有效的基于掩码的不可见后门攻击目标检测技术，并针对目标消失、目标错误分类和目标生成三种攻击场景进行了全面的实验，以确定有效的防御方法。

    Mar, 2024

  • 窃取隐形：通过对抗样本和时间侧信道揭示预训练的卷积神经网络模型

    基于对对抗性图像分类模式的观察，我们提出一种用于盗取模型的方法，结合时间侧信道和对抗性图像分类，以指纹识别多个著名的卷积神经网络和 Vision Transformer 架构，该方法可在减少查询次数的同时保持高准确率。

    Feb, 2024

  • 目标检测情境下的零数据模型提取攻击

    通过生成器人工策划的查询，对于第一次扩展到用于预测物体检测中的边界框坐标的回归问题的黑盒子攻击，提出了一个无数据模型提取技术，发现定义损失函数和使用新型生成器设置是提取目标模型的关键。所提出的模型提取方法通过合理的查询取得了显著的结果，该物体检测漏洞的发现将有助于未来保护这类模型的前景。

    Aug, 2023

  • 图像和视频对象检测的可传递对抗性攻击

    本研究提出了一种基于生成对抗网络（GAN）框架的方法，通过联合训练高级别类别损失和低级别特征损失，获得生成对抗图像和视频，并成功解决了对目标检测模型的对抗攻击中存在的二合一问题：低的迁移能力和高的计算成本。

    Nov, 2018

  • 关于深度学习系统攻击幽灵化的研究

    本文的研究旨在探讨对深度学习模型的攻击是否具有隐蔽性，以及对攻击样本的隐蔽性进行了两种不同的测试方法，并发现大多数攻击会对图像进行不可忽略的扰动，且分析了攻击隐蔽性的各个因素。

    May, 2022