图腾:用于验证视觉完整性的物理对象
我们提出了一种方法,生成了对人类眼睛不可见的物理对抗样本。我们使用改变照射目标物体的光的方式,而不是通过贴纸或彩色物体来生成对抗样本,我们探究了如何使用红外光或者 LED 对图像实现攻击目标,实验中所得到的结果表明该方法具有较高的准确度。
Nov, 2020
该研究论文提出 ObjectFormer 方法,结合高频特征和 RGB 特征提取图像信息并采用可学习的对象原型来模拟区域之间的一致性,实现了图像篡改检测和定位,其效果优于现有的方法。
Mar, 2022
本文提出了一种生成不引人注目的材质的系统,能够迷惑物体跟踪系统,比如通过使用各种优化策略生成对抗性材质,进而在物理世界中对机器人相机进行视觉混淆,实现物体规避目的。同时,作者比较了不同的条件变量,包括视点,光照以及外观,以寻找实用的高性能攻击设置。
Apr, 2019
本文提出了一种无接触、半透明的物理贴片,通过在摄像头镜头上放置一个精心构造的图案,欺骗了最先进的目标检测器。我们的贴片的主要目标是隐藏所选目标类别的所有实例,并确保其他类别的检测受到保护。实验表明,我们的贴片能够防止检测所有停车标志实例的 42.27%,同时保持了其他类别的高检测率(近 80%)。
Dec, 2020
通过利用光学噪声攻击 3D 人脸识别系统,该研究设计了端到端的攻击算法,成功地攻击了基于点云和深度图的 3D 人脸识别算法,变形不可见且需要比先前的物理攻击更少的扰动。
May, 2022
本文提出了一种针对 3D 物体探测器在自动驾驶系统中受到攻击的解决方案,包括一个基于深度信息的局部物体检测器,能检测出数据中虚假的汽车,并且有效消除了 70% 以上的出现攻击,同时比旧有方法更加有效,在 Baidu 的 Apollo 系统中得到了验证。
Mar, 2023
本文研究了利用自然现象 —— 影子生成干扰以实现自然和偷偷摸摸的物理世界对抗攻击的新型光学对抗样本,并在模拟和真实环境下进行了广泛评估,结果表明此攻击的成功率达到了 98.23% 和 90.47%,而且可以在真实场景下连续欺骗移动摄像机 95% 以上的时间。
Mar, 2022
本文研究了野外物体探测器的物理对抗攻击,提出了一种名为 UPC 的通用物理迷彩攻击,通过联合欺骗区域提议网络以及误导分类器和回归器来进行伪装,同时引入了一组模仿可变形物体属性的变换,实验表明,在虚拟和真实世界的物理攻击中,UPC 比现有的物理对抗攻击者更具优越性。
Sep, 2019
本文系统研究了对最先进目标检测框架的对抗攻击,证明了其有效性,在不同环境下针对多种检测模型具有广泛的适应性,同时研究了使用印刷海报和可穿戴衣服进行的物理攻击,并用不同的度量方法对这些攻击的性能进行详细的分析。
Oct, 2019
对物理深度学习算法模型的物理攻击,提出了 Disappearance Attack 和 Creation Attack 进行检测,结果表明存在风险,攻击模型具有可迁移性
Jul, 2018