Sep, 2023

将假变真：针对深度伪造检测的对抗性头部转向攻击

PDF
TL;DR深度伪造技术的恶意使用引发了严重的公众关切，并降低了人们对数字媒体的信任。虽然已经提出了有效的深度伪造检测器，但它们在面对对抗性攻击时往往容易受到影响。本文提出了对抗性转向（AdvHeat）技术，它是针对深度伪造检测器的首次 3D 对抗性人脸视角尝试，基于单视角伪造图像的人脸视角合成。广泛的实验证实了各种检测器在真实、黑盒场景下都容易受到 AdvHeat 的攻击。
发现论文，激发创造
  • 通过面向转换的对抗性人脸防御，抵御基于 GAN 的深度伪造攻击

    本研究提出了使用差分随机图像变换的对抗攻击作为 GAN-based Deepfake 的防御方法，同时使用基于集合的方法加强了攻击的鲁棒性。

    Jun, 2020

  • 深度伪造检测的对抗威胁：实用角度分析

    本研究以黑盒方式对当今最先进的 DeepFake 检测方法进行批判性漏洞研究，旨在提高其鲁棒性，包括对抗攻击和使用通用对抗样本进行更容易的攻击。该研究还在 DeepFake 检测挑战赛的获奖入口上进行了评估，并证明了它们可以很容易地被跨模型攻击所绕过。

    Nov, 2020

  • 对抗性人脸合成

    该论文提出 AdvFaces，一种基于生成对抗网络 (GAN) 的自动化方法，用最小的扰动生成看似合法但实际上能够欺骗最新人脸识别系统的假冒人脸或模糊真正主题的攻击性人脸图像。

    Aug, 2019

  • 对抗生成网络中的 Deepfake: 评估 Deepfake 检测器对对抗样本的容错性

    本文讲述了近年来视频技术的进步使得生成假视频变得比以往更容易，同时也提到人工智能生成的 Deepfake 视频可以通过对抗性修改来欺骗现有的检测器并且具有实际威胁。研究者在本文中提出了可以误导 DNN 检测器认为 Deepfake 视频为真实的白盒和黑盒攻击方案。

    Feb, 2020

  • 仅使用真实人脸的自干扰检测对抗样本人脸

    本文提出了一种生成伪造对抗人脸图像的方法，并用其来训练一个不需要攻击数据就可以检测对抗人脸图像的分类器，该方法适用于各种未知对抗攻击。

    Apr, 2023

  • 针对物理人脸识别的有效对抗性纹理三维网格

    本文旨在开发一种更可靠的技术，能够对商业系统进行端到端的对抗性鲁棒性评估，其中采用拟人面部上的精细拓扑的对抗性纹理 3D 网格可欺骗黑盒识别模型并回避防御机制，详尽的数码和物理实验证明了该方法的有效性，包括三种识别 API、四种反欺诈 API、两种流行的手机和两种自动门禁系统。

    Mar, 2023

  • 隐匿明目之间：对抗性干扰扰乱人工智能人脸合成

    本研究通过在训练数据中添加微不可见的对抗干扰因素，破坏基于深度神经网络的人脸检测器的质量，从而防止个人受到最近利用 AI 合成的假面孔可能造成的负面社会影响。我们在白盒、灰盒和黑盒环境下描述了攻击方案，并在若干数据集上实证展示了我们的方法破坏最先进的基于 DNN 的人脸检测器的有效性。

    Jun, 2019

  • AdvGen: 针对人脸展示攻击检测系统的物理对抗攻击

    通过自动生成对抗性图像的方式，本研究展示了面部认证系统在实际场景中对对抗性图像的脆弱性，并提出 AdvGen 作为一种自动化生成对抗网络来模拟打印和重放攻击，生成可以欺骗最新型 PAD 的对抗性图像，其攻击成功率高达 82.01%。本研究在四个数据集和十个最新型 PAD 上对 AdvGen 进行了广泛测试，并在真实的物理环境中进行了实验证明了攻击的有效性。

    Nov, 2023

  • 基于决策的有效黑盒对抗攻击人脸识别系统

    本文旨在评估最先进的人脸识别模型在基于决策的黑盒攻击环境下的鲁棒性能，并提出一种新的进化攻击算法以减少搜索空间维度，实验结果表明该方法能够在较少的查询次数内诱导输入的最小扰动，并成功地用于攻击一个真实的人脸识别系统。

    Apr, 2019

  • 对抗图像翻译：面部识别系统中的无限对抗样本

    利用图像翻译技术生成无限制的对抗样本，欺骗目标脸部识别系统并通过认证防御，实现了攻击成功率约为 90% 和 80% 的结果，同时保持个体的可识别性和感知逼真度。

    May, 2019