ICMLJul, 2017

合成鲁棒性对抗性样本

PDF
TL;DR研究发现标准的神经网络产生对抗样本的方法在面临视角改变、噪声和其他自然变换的情况下无法在物理世界中持续地欺骗神经网络分类器，但此研究成功演示了存在强韧性的三维对抗性目标，提出了第一个能在所选择的转换分布中产生对抗性示例的算法，制造了首批物理对抗物体。
adversarial examplesneural networksphysical world3d objectstransformation
发现论文，激发创造
  • 增强的三维对抗样本用于鲁棒性领域外预测

    通过对实际训练数据集进行改进，我们提出了一种使用对抗性示例来增强模型对领域外数据的泛化能力的方法，通过学习和应用一组矢量来扭曲对象并进行对抗性增强，从而显著提高了三维对象检测和三维语义分割方法对领域外数据的鲁棒性和泛化能力。

    Aug, 2023

  • 图像空间之外的对抗攻击

    本文针对深度神经网络生成对抗样本的问题展开了研究，提出了针对 3D 物理性质改变的对抗样本生成方法，并通过在 2D 输入图像前增加可渲染模块的方式，成功地将对抗扰动提升到物理空间，检验了所设计的方法的有效性。

    Nov, 2017

  • 破坏 3D 虚拟环境：可转移的对抗性 3D 对象

    本研究研究了如何通过改变材质，使用易于访问的元素构建具有敌对性的 3D 物体，以此欺骗神经分类器，以评估其在流行神经分类器中的影响。

    Sep, 2021

  • 面向神经网络的不可察觉且强韧对抗样本攻击

    该研究提出了一种新的对抗样本攻击方法，考虑到人类感知系统并最大化制作的对抗样本的噪声容忍度，实验结果证明了该技术的有效性。

    Jan, 2018

  • 深度学习模型的鲁棒性物理攻击

    该研究介绍了一种通用的攻击算法，RP2，用于在不同的物理条件下产生强大的视觉对抗扰动，以及一种用于评估物理对抗性的两阶段评估方法，通过黑白贴纸形式的扰动对真实的红绿灯进行攻击，在实验室测试和场地测试结果分别达到 100% 和 84.8% 的目标分类器的误分率。

    Jul, 2017

  • 用于多摄像头系统的物理对抗样本

    我们扩展了现有的研究，在多摄像头设置中评估了多摄像头设置相对于物理对抗样本的鲁棒性，并提出了一种名为 Transcender-MC 的新型攻击方法，该方法在训练过程中融入了在线 3D 渲染和透视投影。比起现有方法，这种攻击方法在成功攻击多摄像头设置方面效果提高了 11％。我们的发现为具有多个摄像头的物体检测的弹性提供了宝贵的见解，并促使人们开发相应的防御机制。

    Nov, 2023

  • 在实际世界中实现可迁移的有目标 3D 对抗攻击

    通过设计一种名为 TT3D 的新型框架，可以从少量多视图图像中快速重建为可转移的针对性的 3D 纹理网格，该方法不仅展示出卓越的跨模型转移能力，而且在不同的渲染和视觉任务中保持可观的适应性，此外，通过 3D 打印技术在真实世界中生成的 3D 对抗样本也得到了鲁棒的验证。

    Dec, 2023

  • LiDAR 物体检测可实现的对抗样本

    本文提出了一种生成通用三维对抗目标的方法，用以干扰自动驾驶系统中激光雷达探测器，这一方法成功率高达 80％，并开展了一些防御研究，旨在建立更安全可靠的自动驾驶系统。

    Apr, 2020

  • 可证明的最小扭曲对抗样本

    利用形式验证技术构建对抗样本，证明这些样本是最小扭曲的，从而增加了对抗性训练的鲁棒性。

    Sep, 2017

  • MeshAdv：面向视觉识别的对抗性网格

    本文提出了一种叫做 meshAdv 的方法，用于生成具有丰富形状特征但纹理变化最小的物体的 “对抗性 3D 网格模型”。使用可微渲染器进行对象的形状和纹理的操作，可以有效地攻击分类器和物体探测器，并在不同视角下进行攻击评估，同时设计了一个管道以对具有未知渲染参数的光真实渲染器进行黑盒攻击。

    Oct, 2018