Sep, 2024

自主驾驶中的瞬态对抗3D投影攻击对物体检测的影响

HTML
PDF
TL;DR本研究针对自主驾驶中的物体检测，解决了现有对抗攻击方法缺乏对3D表面投影攻击的探索问题。通过将攻击公式化为优化问题，结合颜色映射和几何变换模型，提出了一种新的对抗3D投影攻击。实验结果表明，在低光照条件下，该攻击在真实场景中能够取得高达100%的成功率，对自动驾驶的安全性构成严重威胁。
发现论文，激发创造
  • 看见并不等于相信：针对物体检测器的实用对抗性攻击

    本研究提出了一种针对实时目标检测器的建设鲁棒且实用的AE系统解决方案，包括针对HA的FIR方法和ERG增强鲁棒性，以及针对AA的嵌套AE，可攻击不同距离和角度下的检测器。实验表明，我们的AE系统的攻击成功率可以达到92.4％，并且可攻击另外三种黑盒模型。

    Dec, 2018

  • 3D点云的对抗形状扰动

    探讨了对抗者的视角下，从创建健壮的神经网络模型的问题入手，研究了使用3D数据进行分类的某些形状攻击方法及其有效性，以及攻击预处理步骤的能力。

    Aug, 2019

  • 自动驾驶模型的敌对攻击和防御分析

    本文针对三种自动驾驶模型，分析了五种对抗性攻击和四种防御方法的效果。实验证明，与分类模型类似，这些模型仍然非常容易受到对抗性攻击，因此实践中应该考虑到这一点。对于系统和中间件构建者，需要同时部署多种防御方法来获得对各种攻击的良好覆盖。同时也需要保护好模型的细节信息，以降低黑盒攻击的效果。如果计算资源允许，则建议使用复杂的架构模型，因为该模型比简单模型更具弹性，更能抵御对抗性攻击。

    Feb, 2020

  • LiDAR物体检测可实现的对抗样本

    本文提出了一种生成通用三维对抗目标的方法，用以干扰自动驾驶系统中激光雷达探测器，这一方法成功率高达80％，并开展了一些防御研究，旨在建立更安全可靠的自动驾驶系统。

    Apr, 2020

  • 评估自动驾驶语义分割在面对真实世界对抗性补丁攻击时的鲁棒性

    本文通过研究数字和现实中的对抗补丁，对流行的SS模型的稳健性进行了深入评估，并提出了场景特定攻击优化方法，似乎对自动驾驶等实际应用的影响不大。

    Aug, 2021

  • 对抗检测：实时攻击目标检测

    本研究提出了第一种实时在线攻击物体检测模型的方法，通过构造虚假物品边界框等三种攻击方式对物体检测模型进行攻击，成功率高达90％，适用于动态环境中，并提供了演示视频。

    Sep, 2022

  • Adv3D：使用NeRF在驾驶场景中生成3D对抗样本

    经过对3D物体检测的DNN系统进行研究，我们提出了Adv3D，这是首次将对抗样本建模为神经辐射场（NeRF）的探索。我们训练了具有真实外观和3D准确生成能力的对抗性NeRF，通过最小化训练集中3D检测器预测的周围物体置信度来训练。我们还提出了基于原始感知采样和语义引导正则化的方法，以生成适应于3D环境中的伪装对抗纹理的3D补丁攻击。实验结果表明，所训练的对抗性NeRF对不同姿势、场景和3D检测器具有很好的泛化性能。最后，我们提供了一种通过数据增强进行对抗性训练的防御方法。

    Sep, 2023

  • 通过以人为中心的感知机制提高自动驾驶中的对抗机器学习韧性

    该研究探讨了自动驾驶系统对物理对抗攻击（胶带、涂鸦、照明）的弹性，并通过开发和评估多个机器学习模型，对道路标志和几何形状进行了测试，结果表明迁移学习在提高道路标志分类的可泛化性方面发挥了关键作用。该研究旨在改善自动驾驶车辆中目标分类器的安全性和鲁棒性，减轻对驾驶系统的对抗性示例影响。

    Nov, 2023

  • 自动驾驶系统的动态对抗攻击

    通过在另一辆移动车辆上动态显示对抗性修补程序的屏幕，该研究介绍了一种攻击机制，旨在挑战自动驾驶系统的韧性。这种操纵对决策制定过程的方法对于交叉路口和变道等关键的多车辆交互非常重要，这对安全和高效的自动驾驶系统具有重大影响。

    Dec, 2023

  • PG-Attack：一种面向自动驾驶视觉基础模型的精准引导对抗攻击框架

    自主驾驶系统中广泛采用视觉基础模型，但这些模型容易受到对抗攻击，影响自动驾驶车辆的可靠性和安全性。为了解决这个挑战，我们提出了一种新颖的精确引导的对抗攻击框架，将精确掩蔽扰动攻击(PMP-Attack)和欺骗性文本补丁攻击(DTP-Attack)两个技术相结合。实验证明，PG-Attack成功欺骗了多种先进的多模型大型模型，包括GPT-4V、Qwen-VL和imp-V1。

    Jul, 2024