Jan, 2023

基于摄像机的 3D 物体检测的对抗鲁棒性

PDF
TL;DR该研究考察了基于相机的 3D 物体检测方法在不同对抗条件下的鲁棒性，并发现了提高鲁棒性的关键因素，包括准确的深度估计、鸟瞰图表示法、多帧输入等，为今后设计具有改进的鲁棒性的基于相机的物体检测模块提供指导。
3d object detectionadversarial attacksdepth estimationbird's-eye-viewmulti-frame inputs
发现论文，激发创造
  • 朝向对抗鲁棒目标检测

    本研究从模型鲁棒性的角度出发，对目标检测模型和对抗攻击进行了系统分析，提出了一种多任务学习的视角和不对称的任务损失，并进一步开发了一种基于多种攻击源提高检测模型鲁棒性的对抗训练方法，实验证明了其有效性。

    Jul, 2019

  • 对抗性情况下三维深度学习的鲁棒性

    本文介绍了一种算法，用于分析操作 3D 数据的神经网络的点对点健壮性，并展示了当前方法过度估计模型的韧性，进而评估了一系列最先进模型的韧性，指出它们对于遮挡攻击的脆弱性，并最终发现这些网络在最坏情况下，可以在占据输入空间不超过 6.5％的遮挡下降至 0％的分类准确率。

    Apr, 2019

  • 自主驾驶中基于鸟瞰图表示的 3D 物体检测鲁棒性研究

    本文评估了多种具有代表性的模型在各种情况下的自然和对抗鲁棒性，以全面了解它们如何受到包含和不包含 Bird's-Eye-View 特征的影响，重点关注自主驾驶安全问题，发现了一些警示性的结论。

    Mar, 2023

  • AdvMono3D：具有深度感知的鲁棒性对抗式高级单目 3D 物体检测

    我们提出了一个名为 DART3D 的鲁棒性深度感知对抗训练方法，用于单目 3D 对象检测，通过设计迭代退化攻击和基于不确定性的残差学习方法，提高了模型对对抗攻击的鲁棒性，在 KITTI 3D 数据集上的实验中，在 Easy，Moderate 和 Hard 设置下的车辆类别的 3D 对象检测评价指标 $AP_{R40}$ 上，相比直接对抗训练方法，分别实现了 4.415%，4.112% 和 3.195% 的提升。

    Sep, 2023

  • FROD: 强健的免费物体检测

    本研究旨在利用对抗训练的分类模型作为目标检测的骨干，在不增加计算开销的情况下提高目标检测的鲁棒性，通过引入仿真损失和延迟对抗训练两个轻量级组件进一步增强鲁棒性。在 MS-COCO 和 Pascal VOC 数据集上进行了大量实验证明了我们提出方法的有效性。

    Aug, 2023

  • 2D 和 3D 深度学习模型鲁棒性和安全性对抗性攻击调查

    通过构建威胁模型、综述 2D 和 3D 对抗性攻击的最新进展以及扩展对物理对抗性攻击的研究，本文探究了深度学习模型的鲁棒性与安全性，并总结了目前的热门话题，对挑战给出了见解，并对未来值得研究的可信 AI 提出了建议。

    Oct, 2023

  • 关于骨干网络对于目标检测器对抗鲁棒性的重要性

    本文提出一种基于对抗预训练的简单而有效的配方，用于提高目标检测器的对抗鲁棒性，并探索不同的现代目标检测器提高对抗鲁棒性的潜力，为该领域设定了一个新的里程碑和加深了人们对鲁棒目标检测的理解。

    May, 2023

  • 自动驾驶中的鲁棒性感知 3D 物体检测：综述与展望

    在现代自动驾驶领域中，感知系统是不可或缺的，它可以准确评估周围环境的状态，从而实现知情预测和规划。本研究重点研究了感知系统的鲁棒性、准确性和延迟性在实际情况下的评估，通过对基于摄像头、LiDAR 和多模态的 3D 物体检测算法进行全面评估，特别是在 KITTI-C 和 nuScenes-C 等数据集上进行公平比较，发现多模态的 3D 检测方法表现出更强的鲁棒性，并引入了一个新的分类系统以提高文献的清晰度。本调查旨在为当前三维物体检测算法在实际应用中的能力和限制提供更实用的视角，从而引导未来的研究朝向鲁棒性为中心的发展。

    Jan, 2024

  • 对抗检测：实时攻击目标检测

    本研究提出了第一种实时在线攻击物体检测模型的方法，通过构造虚假物品边界框等三种攻击方式对物体检测模型进行攻击，成功率高达 90％，适用于动态环境中，并提供了演示视频。

    Sep, 2022

  • 单目深度估计器：漏洞和攻击

    本文旨在探讨当前最先进的单目深度估计神经网络对抗攻击的鲁棒性，实验结果表明微小的打扰和少于 1% 的图像损坏就会极大地影响深度估计，并提出一种新的深度特征损坏损失来增强攻击效果

    May, 2020