Feb, 2020

自动驾驶模型的敌对攻击和防御分析

PDF
TL;DR本文针对三种自动驾驶模型，分析了五种对抗性攻击和四种防御方法的效果。实验证明，与分类模型类似，这些模型仍然非常容易受到对抗性攻击，因此实践中应该考虑到这一点。对于系统和中间件构建者，需要同时部署多种防御方法来获得对各种攻击的良好覆盖。同时也需要保护好模型的细节信息，以降低黑盒攻击的效果。如果计算资源允许，则建议使用复杂的架构模型，因为该模型比简单模型更具弹性，更能抵御对抗性攻击。
发现论文，激发创造
  • 基于深度学习的自动驾驶系统：攻击和防御调研

    人工智能和深度学习技术的迅速发展促进了自动驾驶系统，但是这些系统仍受到来自不同攻击的威胁。此研究调查了可能危及自动驾驶系统的各种攻击，以及相应的最新防御机制，从而提出了一些有前途的研究方向以提高自动驾驶的安全性。

    Apr, 2021

  • 针对端到端自动驾驶模型的简易物理对抗样本

    本研究使用简单的物理攻击，将黑线涂在路上，对自动驾驶的深度神经网络模型进行端对端的攻击，并探讨了针对直行的攻击与针对右转的攻击等场景的高度有效性。

    Mar, 2019

  • 自主驾驶多任务视觉感知的对抗攻击

    本文针对自主驾驶感知任务中的多任务视觉感知深度网络，进行了细致的对抗攻击研究，并提出了简单的防御方法。实验考虑了针对性和非针对性的白盒和黑盒攻击，以及在攻击一个任务时检查对其他任务的影响，同时还检查了应用简单防御方法的效果。最后通过对实验结果进行比较和讨论，提出了一些结论和未来研究方向。

    Jul, 2021

  • 针对端到端自动驾驶模型的视觉感知攻击

    本文研究自动驾驶车辆中基于深度学习的对抗攻击，通过在路面上绘制黑色线条，实现对深度神经网络模型的干扰，并提出了一种新的高效攻击方式。同时，定义了新的路径劫持攻击，并通过 Bayesian Optimization 技术实现了对高维度攻击范围的搜索，最终提供了对攻击成功的洞察。

    Oct, 2019

  • 针对对抗性攻击的鲁棒性轨迹预测

    本文介绍了一种在预测自动驾驶系统的轨迹时防御对抗性攻击的方法，该方法包括设计有效的对抗训练方法和添加特定领域的数据增强来减少在净数据上的性能损失。作者通过验证表明，相较于只使用纯净数据训练的模型，该方法在对抗数据上性能提高了 46％，并只降低了 3％的净数据性能。此外，相较于现有鲁棒方法，该方法在对抗样本上的性能提高了 21％，在干净数据上的性能提高了 9％。通过对规划器的评估，研究了我们的鲁棒模型对下游影响，证明该模型可以显著减少严重事故率（例如碰撞和越野驾驶）。

    Jul, 2022

  • 使用卷积自动编码器防御对抗性攻击

    基于卷积自编码器的方法提高目标分类器对抗性攻击的鲁棒性，通过生成与输入图像相似的图像来恢复模型的准确性。

    Dec, 2023

  • 通过以人为中心的感知机制提高自动驾驶中的对抗机器学习韧性

    该研究探讨了自动驾驶系统对物理对抗攻击（胶带、涂鸦、照明）的弹性，并通过开发和评估多个机器学习模型，对道路标志和几何形状进行了测试，结果表明迁移学习在提高道路标志分类的可泛化性方面发挥了关键作用。该研究旨在改善自动驾驶车辆中目标分类器的安全性和鲁棒性，减轻对驾驶系统的对抗性示例影响。

    Nov, 2023

  • 恶意软件检测中的对抗样本探索

    研究卷积神经网络在恶意软件检测中的应用，探索对抗样本在该领域中的影响，发现之前的攻击不如之前报告的那么有效，同时还存在架构上的弱点，容易遭受新的攻击策略，继而探讨了攻击策略的可变性、提高攻击有效性的权衡以及单步攻击的可转移性。

    Oct, 2018

  • 计算机视觉中深度学习对抗攻击威胁综述

    本文综述了计算机视觉领域深度学习中的对抗攻击及其防御方法，包括攻击的设计、存在性和实际应用的评估，旨在提供更全面的研究方向展望及其实际意义。

    Jan, 2018

  • 机器学习网络中的对抗攻击与防御：当代综述

    本文综述了近期深度学习中对于对抗攻击和防御技术的研究进展，聚焦于基于深度神经网络的分类模型，并进行了对攻击和防御方法的分类和评价，其中重点介绍了正则化方法在提高模型的鲁棒性方面的应用。此外，还探索了新型攻击方式，如基于搜索、决策、降维和物理世界攻击，并提出了对于未来研究的建议。

    Mar, 2023