Nov, 2020

利用快门扫描效应制造不可见扰动的物理对抗样本

PDF
TL;DR我们提出了一种方法，生成了对人类眼睛不可见的物理对抗样本。我们使用改变照射目标物体的光的方式，而不是通过贴纸或彩色物体来生成对抗样本，我们探究了如何使用红外光或者 LED 对图像实现攻击目标，实验中所得到的结果表明该方法具有较高的准确度。
physical adversarial examplesinvisible perturbationsmodulated light signalradiometric rolling shutter effecttargeted misclassifications
发现论文，激发创造
  • 影子可能很危险：自然现象导致的隐蔽高效实物世界敌对攻击

    本文研究了利用自然现象 —— 影子生成干扰以实现自然和偷偷摸摸的物理世界对抗攻击的新型光学对抗样本，并在模拟和真实环境下进行了广泛评估，结果表明此攻击的成功率达到了 98.23% 和 90.47%，而且可以在真实场景下连续欺骗移动摄像机 95% 以上的时间。

    Mar, 2022

  • 对深度学习系统的基于物理摄像头的攻击：对抗相机贴纸

    本文主要研究了利用对摄像头物理操纵的方式实施对深度神经网络的物理对抗攻击，并提出了一种迭代的攻击方法，可以使攻击不易被察觉，实现了针对 ImageNet 分类器的 49.6% 的攻击成功率。

    Mar, 2019

  • 面向深度神经网络的无感 CMOS 相机迷惑对抗攻击

    尽管深度神经网络表现出色，但它们容易受到对抗性攻击。本研究介绍了一种使用光源对 CMOS 相机进行闪烁以进行隐形光学对抗性攻击的方法，达到攻击光源完全不可见且欺骗应用于其上的深度神经网络的目的。

    Oct, 2023

  • 物理对抗样本用于目标检测

    对物理深度学习算法模型的物理攻击，提出了 Disappearance Attack 和 Creation Attack 进行检测，结果表明存在风险，攻击模型具有可迁移性

    Jul, 2018

  • 自主车辆目标检测无需担心对抗样本

    本文通过实验表明，目前物理对抗样本的构造不能影响到从不同距离和角度的拍摄图像，因为对抗扰动的特性对观察图像的尺度非常敏感，因此自动车只会从小范围内的距离错判停止标志。此外，研究还提出了：是否可以构造对许多或大多数观看条件都具有对抗性的例子，若能，则该构造应该对深度网络的模式内部表示提供非常重要的见解。

    Jul, 2017

  • 深度学习模型的鲁棒性物理攻击

    该研究介绍了一种通用的攻击算法，RP2，用于在不同的物理条件下产生强大的视觉对抗扰动，以及一种用于评估物理对抗性的两阶段评估方法，通过黑白贴纸形式的扰动对真实的红绿灯进行攻击，在实验室测试和场地测试结果分别达到 100% 和 84.8% 的目标分类器的误分率。

    Jul, 2017

  • 投射性麻烦：基于光的对深度学习分类器的对抗攻击

    本文提出了一种利用光影对深度学习图像分类系统进行物理攻击的方法，通过实验发现选择不同的光影模式可以使得 2D 和 3D 物体的分类精度大幅降低。

    Oct, 2018

  • 物理信号的对抗扰动

    我们研究了基于计算机视觉的信号分类器对输入的敌对扰动的脆弱性，其中信号和扰动受到物理约束。通过求解 PDE 约束优化问题，我们构建了干扰信号使得即使对接收信号的谱图进行的扰动几乎不可察觉，探测器仍会误将源分类。尽管此类问题可能涉及数百万个决策变量，但我们引入了高效解决方案。我们的实验表明，可以在各种物理条件下计算出对多种机器学习模型有效且可实现的敌对扰动。

    Feb, 2024

  • 为什么不清洁眼镜？利用动态光学扰动的感知攻击

    使用 EvilEye 攻击的动态物理对抗样本生成方法在各种环境光照条件下更加稳健，并能绕过最新的物理对抗检测框架，为攻击者提供了适应多种物体的对抗样本的动态能力。最后，我们探讨了对抗 EvilEye 攻击的缓解策略。

    Jul, 2023

  • 通过 LED 光照调制的对人脸识别系统的无感知物理攻击

    提出了基于 LED 照明调制的实用、可执行、不引人注目和低计算的对抗攻击方法，用于愚弄人脸识别系统，成功率分别达到 97.67%、100% 和 100% 的 DoS 攻击。

    Jul, 2023