Defense-PointNet: 保护 PointNet 免受对抗性攻击
本文提出了一种针对 3D 点云数据的攻击和防御方案,包括新颖的 3D 点云攻击操作以及灵活的扰动测量方案,防御方法对抗性点云有效,对多个点云网络的攻击可迁移,并且在一系列实验中验证了该攻击和防御框架的有效性。
Feb, 2019
本文研究了通过对 PointNet 和 PointNet++ 模型进行白盒和黑盒对抗攻击并提出在 3D 领域提供更好的防御机制,发现与 2D 图像分类器相比,处理三维点云数据的网络对对抗攻击更脆弱,但它们也更容易被防御。
Jan, 2019
本论文通过对点云模型的对抗攻击提出了全新的统一公式,此方法可以攻击分类模型的功能,考虑到攻击点的感知能力,并确保最小程度上的点操作,实验证明此方法在合成数据和真实数据上均取得了超过 89% 和 90% 的攻击成功率,并仅操作了总点数约 4%。
Aug, 2020
本文旨在综述目前关于点云分类中的对抗攻击和防御技术的进展,包括对对抗攻击的原理和特点、最近几年的对抗攻击示例生成方法的总结和分析以及防御策略的分类(包括输入变换、数据优化和深度模型修改)。最后,本文阐述了这一领域中几个具有挑战性的问题和未来的研究方向。
Jul, 2023
本文通过对点云几何层级的研究,首次探讨了如何针对几何级别进行对抗例子的攻击,进而改变重构后的几何形状,而非单纯改变分类器的预测结果。此外,作者还展示了该攻击在防御方面的鲁棒性。
Dec, 2020
本篇论文提出了一种新的基于数据驱动的对抗攻击方法,称为 AdvPC,该方法使用对抗性损失来利用输入数据分布,并且具有高度的可传递性和对抗性塑造能力,可成功地攻击目标网络并对其它防御方法有 38% 的突破。
Dec, 2019
本研究提供了一种新的观点解决深度神经网络在三维点云中对敌对攻击的防御问题。研究采用多元线性回归分析 14 个点云特征,寻找最佳组合以实现模型无关的对抗点预测。实验结果证明该方法可以在 PointNet、PointNet++ 和 DGCNN 三种神经网络中更好地预测对抗点,并揭示哪些特征在它们的决策过程中起着关键作用。
Oct, 2022
本研究对点云分类领域中对抗攻击的防御措施进行了安全分析,指出固定池化方法(如 MAX 池化)通常会削弱对抗训练的有效性,提出 DeepSym(一种基于排序的参数化池化方法)来提高模型的鲁棒性。架构实验结果显示,在 AT 下,DeepSym 的鲁棒性达到 47.0%,优于原始设计和强基线分别 28.5%(2.6x)和 6.5%,而不牺牲准确率。
Nov, 2020
本文提出了一种新颖的标签引导的对抗网络(LG-GAN)用于实时灵活的目标点云攻击,该网络能够在单一前向传递中学习如何变形点云以使识别网络误认为是特定标签,支持在飞行中的灵活目标攻击,并同时保证攻击性能和效率的同时提高。
Nov, 2020