Mar, 2024

SSAP：一种用于自主导航应用中全面破坏单目深度估计的形状敏感对抗补丁

PDF
TL;DR通过引入 SSAP 方法，在自主导航应用中全面干扰 CNN-based MDE 模型的深度估计，实验结果显示该方法对目标区域产生显著错误，并影响了 99% 的区域。
monocular depth estimationadversarial attacksautonomous navigationssapcnn-based mde models
发现论文，激发创造
  • SAAM：对单目深度估计的隐蔽对抗攻击

    我们研究了 MDE 系统对恶意补丁的脆弱性，提出了一种新颖的对 MDE 系统的隐蔽性恶意攻击方法（SAAM），通过破坏估计的距离或让物体与周围环境融为一体来损害 MDE 系统。我们的实验证明，设计的隐蔽补丁成功导致基于深度学习神经网络的 MDE 系统对物体深度估计出现显著的 60% 误差，在受影响区域的比例达到 99%。而且，尽管是恶意攻击，补丁的外观自然，对人类观察者来说不易察觉。我们认为这项工作揭示了 MDE 系统在边缘设备上面临的恶意攻击威胁。希望引起社区的关注，意识到此类攻击可能造成的实际危害，并鼓励进一步研究以开发更强大和自适应的防御机制。

    Aug, 2023

  • 单目深度估计的物理攻击与最优对抗贴片

    本文提出了一种基于优化的物体定向对抗攻击方法，针对深度学习驱动的单目深度估计系统，通过敏感区域本地化、自然样式伪装等技术生成隐蔽、有效和稳健的对抗补丁，并在实际驾驶场景中进行了评估，结果表明该攻击方法能够在多个目标物体和模型上达到超过 6 米的平均深度估计误差和 93％以上的攻击成功率。

    Jul, 2022

  • 评估自动驾驶语义分割在面对真实世界对抗性补丁攻击时的鲁棒性

    本文通过研究数字和现实中的对抗补丁，对流行的 SS 模型的稳健性进行了深入评估，并提出了场景特定攻击优化方法，似乎对自动驾驶等实际应用的影响不大。

    Aug, 2021

  • 单目深度估计网络的对抗性修补攻击

    本文提出了以对抗性补丁攻击的方式评估单眼深度估计的鲁棒性， 通过生成人工模式来欺骗目标方法计算错误的深度进行实验，模拟实现该方法具体效果并通过可视化激活层和受影响区域进行分析。

    Oct, 2020

  • 自监督对抗训练单目深度估计抵抗现实世界攻击

    我们提出了一种新颖的自监督对抗训练方法，通过利用视图合成以增强单眼深度估计模型对真实世界攻击的对抗鲁棒性，而无需真实深度的地面真值。我们的方法在两个代表性的单眼深度估计网络上进行实验证明，相比于特别设计用于单眼深度估计的监督学习和对比学习方法，具有更好的鲁棒性，对良性性能影响最小。

    Jun, 2024

  • SSTA: 显著空间变形攻击

    本文提出了一种新颖的框架 Salient Spatially Transformed Attack (SSTA)，用于生成不可察觉的对抗性样本（AE），通过在最关键区域上估计平滑的空间变换度量来提高 AE 的隐匿性，相比其他方法，SSTA 在保持 100% 攻击成功率的同时，有效提升了 AE 的隐匿性。

    Dec, 2023

  • 自主驾驶实时语义分割模型的现实世界的对抗鲁棒性

    该研究评估并提出改进方法，以提高当受到数字、模拟和实际的对抗性补丁攻击时，对语义分割模型的稳健性。研究结果表明，尽管对抗效果在数字和真实攻击中可见，但其影响通常局限于图像周围的补丁区域，这就打开了进一步探讨实时语义分割模型的空间鲁棒性的问题。

    Jan, 2022

  • 对抗相机补丁：一种有效并且稳定的物理世界目标检测攻击

    研究者正在研究深度神经网络的易受攻击性，并提出了一种新的基于相机的攻击方法，该方法引入了摄像头补丁以执行潜在的隐秘攻击，并提出了一个对抗相机补丁来解决多补丁复杂性的问题。

    Dec, 2023

  • ADASSM：来自图像的统计形状模型的对抗性数据增强

    基于深度学习模型的图像到统计形状模型 (Image-to-SSM) 的在线数据增强框架通过引入数据相关噪声生成或纹理增强，提供了改进的准确性，使模型能够关注底层几何形状而不仅仅依赖像素值。

    Jul, 2023

  • 自监督单目深度估计的对抗训练：抵抗物理攻击

    该论文提出了一种基于视图合成的新型对抗训练方法，用于针对无实际深度信息的自监督 MDE 模型，通过 L0 范数约束来提高对物理世界攻击的鲁棒性，并通过与基于监督学习和对比性学习方法的比较，证明我们的方法可以在几乎不降低良性性能的情况下实现更好的鲁棒性。

    Jan, 2023