Oct, 2023

2D 和 3D 深度学习模型鲁棒性和安全性对抗性攻击调查

PDF
TL;DR通过构建威胁模型、综述 2D 和 3D 对抗性攻击的最新进展以及扩展对物理对抗性攻击的研究，本文探究了深度学习模型的鲁棒性与安全性，并总结了目前的热门话题，对挑战给出了见解，并对未来值得研究的可信 AI 提出了建议。
发现论文，激发创造
  • 对抗性情况下三维深度学习的鲁棒性

    本文介绍了一种算法，用于分析操作 3D 数据的神经网络的点对点健壮性，并展示了当前方法过度估计模型的韧性，进而评估了一系列最先进模型的韧性，指出它们对于遮挡攻击的脆弱性，并最终发现这些网络在最坏情况下，可以在占据输入空间不超过 6.5％的遮挡下降至 0％的分类准确率。

    Apr, 2019

  • 三维点云分类中的对抗攻击和防御：综述

    本文旨在综述目前关于点云分类中的对抗攻击和防御技术的进展，包括对对抗攻击的原理和特点、最近几年的对抗攻击示例生成方法的总结和分析以及防御策略的分类（包括输入变换、数据优化和深度模型修改）。最后，本文阐述了这一领域中几个具有挑战性的问题和未来的研究方向。

    Jul, 2023

  • 深度学习模型的整体对抗鲁棒性

    该研究论文综述了深度学习模型对抗鲁棒性的研究主题和基本原则，包括攻击、防御、验证和新应用。

    Feb, 2022

  • 将对抗性攻击和防御扩展到深度三维点云分类器

    本文研究了通过对 PointNet 和 PointNet++ 模型进行白盒和黑盒对抗攻击并提出在 3D 领域提供更好的防御机制，发现与 2D 图像分类器相比，处理三维点云数据的网络对对抗攻击更脆弱，但它们也更容易被防御。

    Jan, 2019

  • 计算机视觉中深度学习对抗攻击威胁综述

    本文综述了计算机视觉领域深度学习中的对抗攻击及其防御方法，包括攻击的设计、存在性和实际应用的评估，旨在提供更全面的研究方向展望及其实际意义。

    Jan, 2018

  • 物理对抗攻击遇见计算机视觉：十年调查

    对于深度神经网络 (DNNs) 的安全性问题，本文重点关注于物理对抗攻击，总结了 150 篇现有的物理对抗攻击的论文，详细分析了物理对抗攻击的特征、媒介、方法及其效果，并探讨了当前的挑战和未来方向。

    Sep, 2022

  • 架构修改对深度学习对抗鲁棒性的影响

    通过对深度学习模型的鲁棒性进行实验评估，我们的研究旨在揭示模型修改对深度学习模型的可靠性和安全性在安全和保密关键应用中的重要性。

    May, 2024

  • 基于摄像机的 3D 物体检测的对抗鲁棒性

    该研究考察了基于相机的 3D 物体检测方法在不同对抗条件下的鲁棒性，并发现了提高鲁棒性的关键因素，包括准确的深度估计、鸟瞰图表示法、多帧输入等，为今后设计具有改进的鲁棒性的基于相机的物体检测模块提供指导。

    Jan, 2023

  • 对抗攻击与防御：一项调查

    文章讨论了不同类型的威胁模型下的敌对攻击，以及近期对抗这些攻击的有效方法和挑战，以提高深度学习算法的鲁棒性。

    Sep, 2018

  • AdvMono3D：具有深度感知的鲁棒性对抗式高级单目 3D 物体检测

    我们提出了一个名为 DART3D 的鲁棒性深度感知对抗训练方法，用于单目 3D 对象检测，通过设计迭代退化攻击和基于不确定性的残差学习方法，提高了模型对对抗攻击的鲁棒性，在 KITTI 3D 数据集上的实验中，在 Easy，Moderate 和 Hard 设置下的车辆类别的 3D 对象检测评价指标 $AP_{R40}$ 上，相比直接对抗训练方法，分别实现了 4.415%，4.112% 和 3.195% 的提升。

    Sep, 2023