Jul, 2019

PhysGAN：为自主驾驶生成物理世界鲁棒的对抗样本

PDF
TL;DR通过 PhysGAN 产生物理世界中鲁棒性的对抗性样本，有效欺骗自动驾驶系统并在数字仿真和现实世界中进行评估，比其他基线方法表现更好，为攻击常规自动驾驶场景生成逼真和具有物理世界鲁棒性的对抗性样本的首个技术。
deep neural networksadversarial attacksautonomous drivingphysganrobustness
发现论文，激发创造
  • 深度学习模型的鲁棒性物理攻击

    该研究介绍了一种通用的攻击算法，RP2，用于在不同的物理条件下产生强大的视觉对抗扰动，以及一种用于评估物理对抗性的两阶段评估方法，通过黑白贴纸形式的扰动对真实的红绿灯进行攻击，在实验室测试和场地测试结果分别达到 100% 和 84.8% 的目标分类器的误分率。

    Jul, 2017

  • 基于物理学的生成对抗模型用于图像修复及其它领域

    该研究提出了一种基于生成模型和对抗学习的图像恢复算法，并通过物理模型约束学习提高了生成对抗网络的图像生成质量，具有在多种低级视觉问题中应用的广泛适用性。

    Aug, 2018

  • DeepBillboard：自动驾驶系统的系统性物理世界测试

    通过 DeepBillboard 实现了一个针对自主驾驶场景的物理实验框架，可在多种动态变化的驾驶场景（包括观看角度、距离和光照）下生成一个强韧的、可打印的敌对广告牌，最大化了生成的广告牌对自动驾驶车的转向角度误差的影响，并通过物理实验验证了 DeepBillboard 的强大实用性。

    Dec, 2018

  • 针对端到端自动驾驶模型的简易物理对抗样本

    本研究使用简单的物理攻击，将黑线涂在路上，对自动驾驶的深度神经网络模型进行端对端的攻击，并探讨了针对直行的攻击与针对右转的攻击等场景的高度有效性。

    Mar, 2019

  • AdvGen: 针对人脸展示攻击检测系统的物理对抗攻击

    通过自动生成对抗性图像的方式，本研究展示了面部认证系统在实际场景中对对抗性图像的脆弱性，并提出 AdvGen 作为一种自动化生成对抗网络来模拟打印和重放攻击，生成可以欺骗最新型 PAD 的对抗性图像，其攻击成功率高达 82.01%。本研究在四个数据集和十个最新型 PAD 上对 AdvGen 进行了广泛测试，并在真实的物理环境中进行了实验证明了攻击的有效性。

    Nov, 2023

  • 使用对抗网络生成对抗性样本

    本文提出了 AdvGAN，一种使用生成对抗网络产生高感知质量的对抗样本的方法，可以更高效地生成对抗性的扰动用于敌对训练，同时在半白盒和黑盒攻击设置下，AdvGAN 都能在 MNIST 黑盒攻击竞赛中取得 92.76％的攻击成功率。

    Jan, 2018

  • DriveGAN：朝着可控的高质量神经仿真

    通过使用机器学习，该研究提出了一种能够通过观察图像数据和相关动作对来学习环境行为并进行建模的高质量神经模型，称为 DriveGAN，不需要监督信号训练控制模型，并在多个数据集上进行了训练和测试，表现优于之前的数据驱动模拟器，实现了对场景和非玩家对象的各个方面进行控制的新功能。

    Apr, 2021

  • SADA：自主应用程序语义对抗性诊断攻击

    为了解决深度神经网络的鲁棒性问题，文中提出了一种针对训练代理的通用框架，覆盖了对代理环境进行语义扰动和像素级攻击的情况，主要针对自主导航的几个方面，BBGAN 攻击可以生成一致愚弄训练代理的失败案例。

    Dec, 2018

  • 运用物理引导的生成对抗网络学习物理模型

    本文讨论了如何使用物理引导生成对抗网络（PG-GAN）来解决深度神经网络输出不满足物理方程问题的方法。

    Apr, 2023

  • 对抗机器学习研究中的合成数据集生成

    本研究使用 CARLA 模拟器生成综合数据集，使其具有逼真的对抗性示例攻击，并使用处理和转换效果与真实世界图像相同的模拟攻击来说明其与现实的相关性。

    Jul, 2022