CVPRFeb, 2020

深度三维点云模型在对抗攻击下的等距鲁棒性

PDF
TL;DR本文研究了在三维领域应用深度学习模型中的不稳健性问题，探讨了已有的模型在保持所谓等距不变性的情况下对抗性样本的脆弱性，并提出了黑盒和白盒攻击，其在 ModelNet40 数据集中的成功率高达 95％以上，并证明其攻击效果是高度可转移的。
发现论文，激发创造
  • 物理世界中的等角 3D 对抗样本

    本文提出了一种新颖的 epsilon - 同构攻击方法，通过考虑 3D 物体的几何特性和物理变换的不变性，在物理世界中生成自然和强健的 3D 对抗性样本，并借助 MaxOT 方法来提高攻击成功率和自然性。实验证明，相较于现有攻击方法，我们的方法能够显著提高 3D 对抗性样本的攻击成功率和自然性。

    Oct, 2022

  • 3D 点云的几何对抗攻击与防御

    本文通过对点云几何层级的研究，首次探讨了如何针对几何级别进行对抗例子的攻击，进而改变重构后的几何形状，而非单纯改变分类器的预测结果。此外，作者还展示了该攻击在防御方面的鲁棒性。

    Dec, 2020

  • 将对抗性攻击和防御扩展到深度三维点云分类器

    本文研究了通过对 PointNet 和 PointNet++ 模型进行白盒和黑盒对抗攻击并提出在 3D 领域提供更好的防御机制，发现与 2D 图像分类器相比，处理三维点云数据的网络对对抗攻击更脆弱，但它们也更容易被防御。

    Jan, 2019

  • 点集的对抗攻击与防御

    本文提出了一种针对 3D 点云数据的攻击和防御方案，包括新颖的 3D 点云攻击操作以及灵活的扰动测量方案，防御方法对抗性点云有效，对多个点云网络的攻击可迁移，并且在一系列实验中验证了该攻击和防御框架的有效性。

    Feb, 2019

  • 对抗性情况下三维深度学习的鲁棒性

    本文介绍了一种算法，用于分析操作 3D 数据的神经网络的点对点健壮性，并展示了当前方法过度估计模型的韧性，进而评估了一系列最先进模型的韧性，指出它们对于遮挡攻击的脆弱性，并最终发现这些网络在最坏情况下，可以在占据输入空间不超过 6.5％的遮挡下降至 0％的分类准确率。

    Apr, 2019

  • 自适应攻击下的三维点云分类对抗鲁棒性

    本研究对点云分类领域中对抗攻击的防御措施进行了安全分析，指出固定池化方法（如 MAX 池化）通常会削弱对抗训练的有效性，提出 DeepSym（一种基于排序的参数化池化方法）来提高模型的鲁棒性。架构实验结果显示，在 AT 下，DeepSym 的鲁棒性达到 47.0％，优于原始设计和强基线分别 28.5％（2.6x）和 6.5％，而不牺牲准确率。

    Nov, 2020

  • 生成 3D 对抗点云

    本文中提出了多种新算法以攻击 PointNet，这是用于点云处理的广泛使用的深度神经网络，通过点扰动和点生成两种方法来制作对抗性点云。

    Sep, 2018

  • 基于 3D 点云深度学习的极小对抗样本

    本论文通过对点云模型的对抗攻击提出了全新的统一公式，此方法可以攻击分类模型的功能，考虑到攻击点的感知能力，并确保最小程度上的点操作，实验证明此方法在合成数据和真实数据上均取得了超过 89% 和 90% 的攻击成功率，并仅操作了总点数约 4%。

    Aug, 2020

  • 3D 点云的对抗形状扰动

    探讨了对抗者的视角下，从创建健壮的神经网络模型的问题入手，研究了使用 3D 数据进行分类的某些形状攻击方法及其有效性，以及攻击预处理步骤的能力。

    Aug, 2019

  • 几何感知对抗点云生成

    本文提出新的 geometry-aware objectives 的设计，生成的 $GeoA^3$ 对人类来说是无法察觉的，同时提出一个名为 $Geo_{+} A^3$-IterNormPro 的算法，该算法通过生成对抗性点云来实现面向表面的对抗性攻击。

    Dec, 2019