本文旨在了解人们无法将由扩散模型产生的合成图像与原始图像区分开来的难度，并研究当前的最先进检测器是否适用于此任务。

Nov, 2022

通过分析当前 GAN 人脸检测的研究方向和方法，本文对深度学习、物理学、生理学以及与人类视觉性能的评估和比较等方法进行了分类，总结出不同类别的关键思路并与其具体实现相联系，讨论了存在的问题并提出了未来研究方向。

Feb, 2022

本文系统介绍了传统方法和深度学习方法，尤其是生成对抗网络（GAN）在面部合成方面的应用及其对身份保护的重要性，并讨论未解决的困难和未来研究方向。

Jun, 2017

该研究探究了在合成图像检测中使用人工智能支持的人类操作员与使用传统方法训练的模型的效果比较，结果发现人工智能在训练时使用的人类指导会提供更好的图像分类支持。同时，向人类操作员提供合成图像检测模型的决策或热点映射可以提高模型的分类准确性并增加人类操作员的信任感，从而提高人类操作员与人工智能合作的效果。

Aug, 2022

本研究通过对各种不同类型图像生成器的系统研究，探寻真实与虚假图像之间最具法医学意义的特征，发现合成图像中出现了可见的傅里叶域信号缺陷，以及自相关中出现的异常规律图案，并且当用于训练模型的数据集缺乏足够的多样性时，其偏见会转移到生成的图像中，观察了人造图像与真实图像之间较高频率信号内容的显著差异。

Apr, 2023

本文提出了一种基于语言引导对比学习的合成图像检测方法，通过添加文本标签来进行联合文本 - 图像对比学习进行取证特征提取，并将合成图像检测问题制定为一种识别问题。该方法在准确性和 AUC 指标上明显优于同类问题的现有方法。

May, 2023

探索合成人脸图像检测的实验研究。我们收集了一个称为 FF5 的数据集，包括近期的扩散模型，发现一个简单的模型在区分合成和真实图像方面能够达到近乎完美的准确率。该模型通过使用数据增强来处理常见的图像失真（降低分辨率、压缩）。此外，我们通过简单的 YOLO 架构模型识别了合成图像被修复到真实图像中的部分篡改，并定位了篡改区域。然而，该模型存在易受对抗性攻击的问题，并且对未见过的生成器无法泛化。我们还测试了最近的最先进方法在经过微调的 StabilityAI 的 Stable Diffusion 图像生成器上无法泛化来检测由新一代生成器产生的图像。

Jun, 2024

基于人工智能图像生成的技术不断提升，产生更具逼真性且视觉缺陷较少的图像。这些图像被用于创建虚假在线账户，用于垃圾邮件、欺诈和虚假信息传播活动。本研究聚焦于区分真实的面部和基于人工智能生成的面部，以解决使用伪造用户头像的非真实在线账户检测问题。通过仅关注面部，我们展示了一种更具有弹性和通用性的工件，可以检测来自各种生成对抗网络和扩散基础合成引擎的人工智能生成面部，同时适用于多种图像分辨率（低至 128 x 128 像素）和质量。

Nov, 2023

深度伪造检测与防御研究方向的关键词有：深度伪造、检测、防御、生成模型和对抗攻击。

Apr, 2024

利用定性和定量指标以及用户研究，本论文主要研究了生成模型在面部图像生成中的有效性和不足之处，并提出了一个框架来审核生成的面部图像的特征。通过对最先进的文本到图像扩散模型生成的面部进行应用，我们发现面部图像生成存在的限制包括对文本提示的忠实度、人口统计不平衡和分布偏移。此外，我们还提出了一种分析模型，以了解训练数据选择如何影响生成模型的性能。

Sep, 2023