Jul, 2024

PG-Attack：一种面向自动驾驶视觉基础模型的精准引导对抗攻击框架

HTML
PDF
TL;DR自主驾驶系统中广泛采用视觉基础模型，但这些模型容易受到对抗攻击，影响自动驾驶车辆的可靠性和安全性。为了解决这个挑战，我们提出了一种新颖的精确引导的对抗攻击框架，将精确掩蔽扰动攻击(PMP-Attack)和欺骗性文本补丁攻击(DTP-Attack)两个技术相结合。实验证明，PG-Attack成功欺骗了多种先进的多模型大型模型，包括GPT-4V、Qwen-VL和imp-V1。
发现论文，激发创造
  • 自动驾驶中基于LiDAR的感知遭受对抗性传感器攻击

    本文对自动驾驶汽车中基于LiDAR传感器的感知系统进行了首次安全研究，将LiDAR欺骗攻击作为威胁模型，并探索了机器学习模型欺骗攻击的可能性，提出了优化方法和算法，同时讨论了针对自动驾驶汽车感知系统、传感器和机器学习模型的防御方向。

    Jul, 2019

  • 针对端到端自动驾驶模型的视觉感知攻击

    本文研究自动驾驶车辆中基于深度学习的对抗攻击，通过在路面上绘制黑色线条，实现对深度神经网络模型的干扰，并提出了一种新的高效攻击方式。同时，定义了新的路径劫持攻击，并通过 Bayesian Optimization 技术实现了对高维度攻击范围的搜索，最终提供了对攻击成功的洞察。

    Oct, 2019

  • 自动驾驶模型的敌对攻击和防御分析

    本文针对三种自动驾驶模型，分析了五种对抗性攻击和四种防御方法的效果。实验证明，与分类模型类似，这些模型仍然非常容易受到对抗性攻击，因此实践中应该考虑到这一点。对于系统和中间件构建者，需要同时部署多种防御方法来获得对各种攻击的良好覆盖。同时也需要保护好模型的细节信息，以降低黑盒攻击的效果。如果计算资源允许，则建议使用复杂的架构模型，因为该模型比简单模型更具弹性，更能抵御对抗性攻击。

    Feb, 2020

  • 自主驾驶多任务视觉感知的对抗攻击

    本文针对自主驾驶感知任务中的多任务视觉感知深度网络，进行了细致的对抗攻击研究，并提出了简单的防御方法。实验考虑了针对性和非针对性的白盒和黑盒攻击，以及在攻击一个任务时检查对其他任务的影响，同时还检查了应用简单防御方法的效果。最后通过对实验结果进行比较和讨论，提出了一些结论和未来研究方向。

    Jul, 2021

  • 评估自动驾驶语义分割在面对真实世界对抗性补丁攻击时的鲁棒性

    本文通过研究数字和现实中的对抗补丁，对流行的SS模型的稳健性进行了深入评估，并提出了场景特定攻击优化方法，似乎对自动驾驶等实际应用的影响不大。

    Aug, 2021

  • 单目深度估计的物理攻击与最优对抗贴片

    本文提出了一种基于优化的物体定向对抗攻击方法，针对深度学习驱动的单目深度估计系统，通过敏感区域本地化、自然样式伪装等技术生成隐蔽、有效和稳健的对抗补丁，并在实际驾驶场景中进行了评估，结果表明该攻击方法能够在多个目标物体和模型上达到超过6米的平均深度估计误差和93％以上的攻击成功率。

    Jul, 2022

  • REAP：大规模真实对抗贴片基准测试

    该研究提出了一个数字基准(REAP)使用户能够在实际图像及真实情况下评估补丁攻击，通过实验证明补丁攻击可能比以前认为的威胁较小，而在简单的数字模拟下的攻击成功率并不预测其在实践中的实际效果。

    Dec, 2022

  • 自动驾驶系统的动态对抗攻击

    通过在另一辆移动车辆上动态显示对抗性修补程序的屏幕，该研究介绍了一种攻击机制，旨在挑战自动驾驶系统的韧性。这种操纵对决策制定过程的方法对于交叉路口和变道等关键的多车辆交互非常重要，这对安全和高效的自动驾驶系统具有重大影响。

    Dec, 2023

  • 通过模块噪声攻击端到端自动驾驶

    本研究针对端到端自动驾驶模型在面对对抗性攻击时的安全漏洞进行深入探讨。通过模块噪声注入，本文提出了一种新型攻击方案，并在大规模实验中验证其优越性，旨在提高自动驾驶系统的安全性与可靠性。

    Sep, 2024

  • 自主驾驶中的瞬态对抗3D投影攻击对物体检测的影响

    本研究针对自主驾驶中的物体检测，解决了现有对抗攻击方法缺乏对3D表面投影攻击的探索问题。通过将攻击公式化为优化问题，结合颜色映射和几何变换模型，提出了一种新的对抗3D投影攻击。实验结果表明，在低光照条件下，该攻击在真实场景中能够取得高达100%的成功率，对自动驾驶的安全性构成严重威胁。

    Sep, 2024