May, 2024

基于物理的对抗样例生成相机故障

PDF
TL;DR通过物理仿真过程生成坏镜头作为一类基于物理的对抗样本，并开发神经仿真器学习网格和应力传播之间的非线性映射，通过与真实、模拟和仿真的对抗样本之间的差异进行统计比较，来提供一种生成可靠的基于物理的对抗样本的过程。
physics-based adversarial samplescamera failuresbroken lensphysical simulationneural emulator
发现论文，激发创造
  • 利用快门扫描效应制造不可见扰动的物理对抗样本

    我们提出了一种方法，生成了对人类眼睛不可见的物理对抗样本。我们使用改变照射目标物体的光的方式，而不是通过贴纸或彩色物体来生成对抗样本，我们探究了如何使用红外光或者 LED 对图像实现攻击目标，实验中所得到的结果表明该方法具有较高的准确度。

    Nov, 2020

  • 对深度学习系统的基于物理摄像头的攻击：对抗相机贴纸

    本文主要研究了利用对摄像头物理操纵的方式实施对深度神经网络的物理对抗攻击，并提出了一种迭代的攻击方法，可以使攻击不易被察觉，实现了针对 ImageNet 分类器的 49.6% 的攻击成功率。

    Mar, 2019

  • 物理对抗样本用于目标检测

    对物理深度学习算法模型的物理攻击，提出了 Disappearance Attack 和 Creation Attack 进行检测，结果表明存在风险，攻击模型具有可迁移性

    Jul, 2018

  • 合成鲁棒性对抗性样本

    研究发现标准的神经网络产生对抗样本的方法在面临视角改变、噪声和其他自然变换的情况下无法在物理世界中持续地欺骗神经网络分类器，但此研究成功演示了存在强韧性的三维对抗性目标，提出了第一个能在所选择的转换分布中产生对抗性示例的算法，制造了首批物理对抗物体。

    Jul, 2017

  • 对抗机器学习研究中的合成数据集生成

    本研究使用 CARLA 模拟器生成综合数据集，使其具有逼真的对抗性示例攻击，并使用处理和转换效果与真实世界图像相同的模拟攻击来说明其与现实的相关性。

    Jul, 2022

  • 用于多摄像头系统的物理对抗样本

    我们扩展了现有的研究，在多摄像头设置中评估了多摄像头设置相对于物理对抗样本的鲁棒性，并提出了一种名为 Transcender-MC 的新型攻击方法，该方法在训练过程中融入了在线 3D 渲染和透视投影。比起现有方法，这种攻击方法在成功攻击多摄像头设置方面效果提高了 11％。我们的发现为具有多个摄像头的物体检测的弹性提供了宝贵的见解，并促使人们开发相应的防御机制。

    Nov, 2023

  • 深度学习模型的鲁棒性物理攻击

    该研究介绍了一种通用的攻击算法，RP2，用于在不同的物理条件下产生强大的视觉对抗扰动，以及一种用于评估物理对抗性的两阶段评估方法，通过黑白贴纸形式的扰动对真实的红绿灯进行攻击，在实验室测试和场地测试结果分别达到 100% 和 84.8% 的目标分类器的误分率。

    Jul, 2017

  • 为什么不清洁眼镜？利用动态光学扰动的感知攻击

    使用 EvilEye 攻击的动态物理对抗样本生成方法在各种环境光照条件下更加稳健，并能绕过最新的物理对抗检测框架，为攻击者提供了适应多种物体的对抗样本的动态能力。最后，我们探讨了对抗 EvilEye 攻击的缓解策略。

    Jul, 2023

  • 投射性麻烦：基于光的对深度学习分类器的对抗攻击

    本文提出了一种利用光影对深度学习图像分类系统进行物理攻击的方法，通过实验发现选择不同的光影模式可以使得 2D 和 3D 物体的分类精度大幅降低。

    Oct, 2018

  • 人脸识别模型的模拟对抗测试

    通过模拟器进行对抗测试，寻找机器学习模型的弱点并提供一种方法来发现这些弱点。该方法应用于人脸识别模型中，显示在常规的验证数据集之外，可以发现真实数据集训练的模型存在的弱点，包括对抗性合成人脸等。

    Jun, 2021