REVAMP: 在逼真场景中对任意对象进行自动模拟的对抗攻击

Oct, 2023

REVAMP: Automated Simulations of Adversarial Attacks on Arbitrary Objects in Realistic Scenes

Matthew Hull, Zijie J. Wang, Duen Horng Chau

TL;DR通过实物世界中的环境因素控制，REVAMP 是一种易于使用的 Python 库，用于创建攻击场景并模拟逼真的环境因素、照明、反射和折射，以便研究人员和从业者可以快速探索数字领域中的各种情景，并使用可区分的渲染来复制物理合理的对抗性对象。

Abstract

deep learning models, such as those used in an autonomous vehicle are vulnerable to adversarial attacks where an attacker could place an a

发现论文，激发创造

本研究研究了如何通过改变材质，使用易于访问的元素构建具有敌对性的 3D 物体，以此欺骗神经分类器，以评估其在流行神经分类器中的影响。

Sep, 2021

研究发现标准的神经网络产生对抗样本的方法在面临视角改变、噪声和其他自然变换的情况下无法在物理世界中持续地欺骗神经网络分类器，但此研究成功演示了存在强韧性的三维对抗性目标，提出了第一个能在所选择的转换分布中产生对抗性示例的算法，制造了首批物理对抗物体。

Jul, 2017

本文揭示了基于 LiDAR 的自动驾驶检测系统的潜在漏洞，并通过 LiDAR-Adv 的优化方法生成逃避 LiDAR 检测系统的对抗性物体，并在百度 Apollo 自动驾驶平台上测试和 3D 打印这些物体以证明实际世界中的存在性。

Jul, 2019

本文通过研究数字和现实中的对抗补丁，对流行的 SS 模型的稳健性进行了深入评估，并提出了场景特定攻击优化方法，似乎对自动驾驶等实际应用的影响不大。

Aug, 2021

改进了基于梯度的纹理优化方法，通过加入一个评估器实体并分析四种策略，使得 NeRF 对象渲染器可以学习到逼真且对抗性的纹理。结果表明，策略 2 和 3 对未来研究更具有潜力。

May, 2024

本文提出了一种生成通用三维对抗目标的方法，用以干扰自动驾驶系统中激光雷达探测器，这一方法成功率高达 80％，并开展了一些防御研究，旨在建立更安全可靠的自动驾驶系统。

Apr, 2020

本研究使用 CARLA 模拟器生成综合数据集，使其具有逼真的对抗性示例攻击，并使用处理和转换效果与真实世界图像相同的模拟攻击来说明其与现实的相关性。

Jul, 2022

该研究提出了一个数字基准 (REAP) 使用户能够在实际图像及真实情况下评估补丁攻击，通过实验证明补丁攻击可能比以前认为的威胁较小，而在简单的数字模拟下的攻击成功率并不预测其在实践中的实际效果。

Dec, 2022

本文提出了一种针对野外目标检测器的物理对抗样本生成方法，采用扩大重复和离散搜索两种技术，通过生成具有马赛克效果的对抗物体纹理，使其在视觉模拟器中不被检测器识别，实验结果证明了该方法的有效性。

Jul, 2020

该研究介绍了一种通用的攻击算法，RP2，用于在不同的物理条件下产生强大的视觉对抗扰动，以及一种用于评估物理对抗性的两阶段评估方法，通过黑白贴纸形式的扰动对真实的红绿灯进行攻击，在实验室测试和场地测试结果分别达到 100% 和 84.8% 的目标分类器的误分率。

Jul, 2017