Nov, 2020

深度伪造检测的对抗威胁：实用角度分析

PDF
TL;DR本研究以黑盒方式对当今最先进的 DeepFake 检测方法进行批判性漏洞研究，旨在提高其鲁棒性，包括对抗攻击和使用通用对抗样本进行更容易的攻击。该研究还在 DeepFake 检测挑战赛的获奖入口上进行了评估，并证明了它们可以很容易地被跨模型攻击所绕过。
deepfakesmisinformationneural networkadversarial attacksdeepfake detection challenge
发现论文，激发创造
  • 对抗生成网络中的 Deepfake: 评估 Deepfake 检测器对对抗样本的容错性

    本文讲述了近年来视频技术的进步使得生成假视频变得比以往更容易，同时也提到人工智能生成的 Deepfake 视频可以通过对抗性修改来欺骗现有的检测器并且具有实际威胁。研究者在本文中提出了可以误导 DNN 检测器认为 Deepfake 视频为真实的白盒和黑盒攻击方案。

    Feb, 2020

  • 深度假象图像检测在威胁环境不断演化中的近期进展分析

    深度伪造检测与防御研究方向的关键词有：深度伪造、检测、防御、生成模型和对抗攻击。

    Apr, 2024

  • 通过面向转换的对抗性人脸防御，抵御基于 GAN 的深度伪造攻击

    本研究提出了使用差分随机图像变换的对抗攻击作为 GAN-based Deepfake 的防御方法，同时使用基于集合的方法加强了攻击的鲁棒性。

    Jun, 2020

  • 人脸识别领域中卷积神经网络的对抗性攻击

    本文以 Fast Gradient Sign Method 为基础，对面部图像数据集进行扰动，测试不同黑盒攻击算法的鲁棒性，并重点研究修改单个最佳像素或所有像素的攻击方法。研究结果表明，所有像素攻击方法能使分类器置信度平均下降至 84％，且 81.6％的误分类率，但这些图像始终可以被人类识别。该研究可为防御性对抗攻击、自适应噪声降低技术等方面的 DNNs 训练和研究提供宝贵的参考。

    Jan, 2020

  • 深度网络的简单黑盒对抗扰动

    研究表明，即使没有内部知识，对深度卷积神经网络进行黑盒攻击并制造对抗性样本是可行的，这暴露了深度神经网络的弱点，为设计安全的网络提供了检验。

    Dec, 2016

  • 实用深度伪造检测：全球背景下的漏洞

    本文研究深度学习技术生成的深度伪造视频的真实性检测问题，发现现有算法对于视频质量降低的数据污染容易攻击。研究在全球范围内实现实际的深度伪造检测并引出技术和伦理道德上的问题。

    Jun, 2022

  • 破坏 Deepfakes: 对条件图像翻译网络和面部操作系统的敌对攻击

    该研究介绍了使用深度学习的脸部修改系统以及生成 Deepfakes 图像的问题，进而探讨了生成对抗性攻击的方式来攻击这些系统，同时提出了灰盒攻击下的混叠频率的对抗攻击，并给出了代码实现。

    Mar, 2020

  • 隐匿明目之间：对抗性干扰扰乱人工智能人脸合成

    本研究通过在训练数据中添加微不可见的对抗干扰因素，破坏基于深度神经网络的人脸检测器的质量，从而防止个人受到最近利用 AI 合成的假面孔可能造成的负面社会影响。我们在白盒、灰盒和黑盒环境下描述了攻击方案，并在若干数据集上实证展示了我们的方法破坏最先进的基于 DNN 的人脸检测器的有效性。

    Jun, 2019

  • 深度学习医学图像分析系统的对抗性攻击研究

    医学深度学习系统可以被巧妙地构造对抗性例子攻击破坏，难以在实际临床设置中应用，本文发现医学深度学习模型对于对抗攻击比对自然图像模型更脆弱，但医学对抗攻击可以通过简单的检测器容易检测出来，这些发现可作为更可解释和安全的医学深度学习系统设计的依据。

    Jul, 2019

  • Deepfakes 生成和检测：现状、挑战、对策和发展方向

    本文综述了现有工具和基于机器学习的方法，用于深度伪造（Deepfake）的生成和检测，并讨论了目前的公共数据集和对技术进行性能评估的关键标准，强调了未来研究的方向。

    Feb, 2021