Jun, 2019

隐匿明目之间：对抗性干扰扰乱人工智能人脸合成

PDF
TL;DR本研究通过在训练数据中添加微不可见的对抗干扰因素，破坏基于深度神经网络的人脸检测器的质量，从而防止个人受到最近利用 AI 合成的假面孔可能造成的负面社会影响。我们在白盒、灰盒和黑盒环境下描述了攻击方案，并在若干数据集上实证展示了我们的方法破坏最先进的基于 DNN 的人脸检测器的有效性。
aifake facesadversarial perturbationsdnnface detection
发现论文，激发创造
  • 对抗性人脸合成

    该论文提出 AdvFaces，一种基于生成对抗网络 (GAN) 的自动化方法，用最小的扰动生成看似合法但实际上能够欺骗最新人脸识别系统的假冒人脸或模糊真正主题的攻击性人脸图像。

    Aug, 2019

  • 对抗生成网络中的 Deepfake: 评估 Deepfake 检测器对对抗样本的容错性

    本文讲述了近年来视频技术的进步使得生成假视频变得比以往更容易，同时也提到人工智能生成的 Deepfake 视频可以通过对抗性修改来欺骗现有的检测器并且具有实际威胁。研究者在本文中提出了可以误导 DNN 检测器认为 Deepfake 视频为真实的白盒和黑盒攻击方案。

    Feb, 2020

  • 深度伪造检测的对抗威胁：实用角度分析

    本研究以黑盒方式对当今最先进的 DeepFake 检测方法进行批判性漏洞研究，旨在提高其鲁棒性，包括对抗攻击和使用通用对抗样本进行更容易的攻击。该研究还在 DeepFake 检测挑战赛的获奖入口上进行了评估，并证明了它们可以很容易地被跨模型攻击所绕过。

    Nov, 2020

  • 通过面向转换的对抗性人脸防御，抵御基于 GAN 的深度伪造攻击

    本研究提出了使用差分随机图像变换的对抗攻击作为 GAN-based Deepfake 的防御方法，同时使用基于集合的方法加强了攻击的鲁棒性。

    Jun, 2020

  • 人脸识别领域中卷积神经网络的对抗性攻击

    本文以 Fast Gradient Sign Method 为基础，对面部图像数据集进行扰动，测试不同黑盒攻击算法的鲁棒性，并重点研究修改单个最佳像素或所有像素的攻击方法。研究结果表明，所有像素攻击方法能使分类器置信度平均下降至 84％，且 81.6％的误分类率，但这些图像始终可以被人类识别。该研究可为防御性对抗攻击、自适应噪声降低技术等方面的 DNNs 训练和研究提供宝贵的参考。

    Jan, 2020

  • 仅使用真实人脸的自干扰检测对抗样本人脸

    本文提出了一种生成伪造对抗人脸图像的方法，并用其来训练一个不需要攻击数据就可以检测对抗人脸图像的分类器，该方法适用于各种未知对抗攻击。

    Apr, 2023

  • 破坏 Deepfakes: 对条件图像翻译网络和面部操作系统的敌对攻击

    该研究介绍了使用深度学习的脸部修改系统以及生成 Deepfakes 图像的问题，进而探讨了生成对抗性攻击的方式来攻击这些系统，同时提出了灰盒攻击下的混叠频率的对抗攻击，并给出了代码实现。

    Mar, 2020

  • 欺骗自动监控摄像机：对抗性贴片攻击人员检测

    本文介绍了一种针对具有高度内类变异的待攻击目标，即人体，生成对抗贴片的方法，并且通过实验表明，我们的系统能显著降低人体检测器的准确性，同时还在实际场景中能够进行攻击。

    Apr, 2019

  • 合成黑盒反取证深度伪造视频实现高质量视觉效果

    提出了一种生成新型对抗性锐化掩模以发动黑盒反取证攻击的方法，通过注入这些扰动，DeepFakes 在展示愉悦的锐化视觉效果的同时能够实现高强度的反取证性能，成功干扰了先进的 DeepFake 检测器，并且与现有的 DeepFake 反取证方法相比，所提出的方法渲染出的反取证 DeepFakes 具有显著的视觉优势。

    Dec, 2023

  • 调查对抗扰动中隐藏的可识别人类特征

    研究表明，神经网络在各种机器学习任务中表现出色，但仍然容易受到对抗性扰动的攻击。这篇论文探讨了对抗性攻击中人可识别特征的识别，并揭示了在无目标攻击和有目标攻击中出现的两种不同效应。通过提取像素级注释的特征，论文证明了这些特征能够破坏目标模型，并指出不同攻击算法在多个模型上平均后的扰动具有显著的相似性。该研究为更深入地理解对抗性攻击的机制及神经网络的防御策略提供了洞察。

    Sep, 2023