IJCAISep, 2019

FakeSpotter：用于检测 AI 合成假脸的简单且稳健的基线模型

PDF
TL;DR该论文提出了一种新方法 FakeSpotter，该方法监控神经元行为来检测由人工智能合成的假面孔，并研究了通过对抗攻击设置下的神经元覆盖和交互的测试标准。实验结果显示了该方法对最先进的 GAN 合成的四种假面孔的有效性和鲁棒性。
generative adversarial networksfacial image synthesisfakespotterneuron behaviorsadversarial attacks
发现论文，激发创造
  • GAN 生成的面孔检测：综述和新视角

    通过分析当前 GAN 人脸检测的研究方向和方法，本文对深度学习、物理学、生理学以及与人类视觉性能的评估和比较等方法进行了分类，总结出不同类别的关键思路并与其具体实现相联系，讨论了存在的问题并提出了未来研究方向。

    Feb, 2022

  • 让真实图像作为判断者，发现由生成模型合成的假图像

    通过学习真实图像的自然特征，利用监督对比学习的方法，我们的研究提出了一种探测器，针对虚假图像中的伪像纹理的变化进行检测，并在广泛的实验证明了其在未知伪造技术的泛化和对不同变换的鲁棒性方面的显著优势。

    Mar, 2024

  • 迈向 AI 合成人脸图像的检测

    通过建立一个综合基准测试来评估最先进的检测器的泛化能力和鲁棒性，然后通过频域分析伪造痕迹来得出各种见解，并进一步证明使用频率表示训练的检测器可以很好地泛化到其他未见的生成模型。

    Feb, 2024

  • 发现野外产生的人工智能生成面孔

    基于人工智能图像生成的技术不断提升，产生更具逼真性且视觉缺陷较少的图像。这些图像被用于创建虚假在线账户，用于垃圾邮件、欺诈和虚假信息传播活动。本研究聚焦于区分真实的面部和基于人工智能生成的面部，以解决使用伪造用户头像的非真实在线账户检测问题。通过仅关注面部，我们展示了一种更具有弹性和通用性的工件，可以检测来自各种生成对抗网络和扩散基础合成引擎的人工智能生成面部，同时适用于多种图像分辨率（低至 128 x 128 像素）和质量。

    Nov, 2023

  • DeepSonar: 有效且稳健的 AI 合成虚假语音检测

    文中提出了一种新方法 DeepSonar，利用神经元行为监测技术实现对 AI 合成的假声的检测，已在包括谷歌、百度在内的三种语言数据集上进行了实验，检测率达到了 98.1％平均准确率，误报率低于 2％。

    May, 2020

  • 揭示真相：探索虚假图像中的人类注视模式

    通过人类语义知识和眼动实验研究假图像检测的可能性，结果显示人们在感知伪造样本时倾向于关注图像的更局部区域，与观看真实图像时更分散的观察模式形成对比。

    Mar, 2024

  • FakeTagger: 通过溯源追踪，对抗 DeepFake 的广泛传播

    本文讨论了利用图像标记进行 DeepFake 的来源追踪的潜力，并提出了一种名为 FakeTagger 的基于深度学习的方法，该方法可以将嵌入的消息以高置信度恢复到面部图像中，可以有效地保护个人照片不被 DeepFaked。

    Sep, 2020

  • DeepFakes: 一项新的人脸识别威胁？评估和检测

    在本文中，我们使用基于 GAN 的开源软件从 VidTIMIT 数据库的视频生成 Deepfake 视频，调整不同的训练和混合参数对生成视频的质量有显著影响，并表明当前的人脸识别系统和现有的检测方法都很容易受到 Deepfake 视频的干扰。

    Dec, 2018

  • 隐匿明目之间：对抗性干扰扰乱人工智能人脸合成

    本研究通过在训练数据中添加微不可见的对抗干扰因素，破坏基于深度神经网络的人脸检测器的质量，从而防止个人受到最近利用 AI 合成的假面孔可能造成的负面社会影响。我们在白盒、灰盒和黑盒环境下描述了攻击方案，并在若干数据集上实证展示了我们的方法破坏最先进的基于 DNN 的人脸检测器的有效性。

    Jun, 2019

  • 深度假象图像检测在威胁环境不断演化中的近期进展分析

    深度伪造检测与防御研究方向的关键词有：深度伪造、检测、防御、生成模型和对抗攻击。

    Apr, 2024