生成式人工智能的最新进展已经导致了生成视觉逼真合成视频的技术的发展。本文证明合成图像检测器无法检测合成视频，因为合成视频生成器引入的痕迹与图像生成器留下的痕迹明显不同。尽管如此，我们展示了合成视频痕迹是可以学习的，并且可以在 H.264 重新压缩后用于可靠的合成视频检测或生成器来源归因。此外，我们还证明了通过零样本迁移进行新生成器的视频检测具有挑战性，但可以通过少样本学习实现对新生成器的准确检测。

Apr, 2024

人工智能的发展催生了数字内容生成的转变，特别对网络影响操作产生了深远的影响。本文研究了扩散模型等生成深度学习模型在制造令人信服的合成图像方面的潜力和局限性，并对这些工具的可接近性、实用性和输出质量进行了批判性评估，同时分析了它们在欺骗、影响和颠覆威胁情景中的影响。在几个假设的网络影响操作中，本报告生成内容来展示这些 AI 驱动方法当前的能力和局限性。虽然生成模型擅长生成插图和非现实的图像，但创建令人信服的逼真照片内容仍面临重大挑战，受计算资源和必须人工指导改进的必要性限制。我们的探索强调了技术进步和其滥用潜力之间的微妙平衡，推动进行持续研究、防御机制、多学科合作和政策发展。这些建议旨在利用人工智能的潜力产生积极的影响，同时防范对信息完整性的风险，尤其是在网络影响的背景下。

Mar, 2024

利用机器学习技术来区分 AI 生成的合成图像和真实图像，通过优化深度学习模型和对比实验结果表明，深度学习模型可以更准确地识别合成图像，进一步推动数字媒体可信度及 AI 生成内容的伦理和技术探索。

Jan, 2024

本文探讨了在不同概念类之间泛化的挑战，并提出了一种基于质量评估模型的质量抽样方法，通过 StyleGAN2 和 Latent Diffusion 生成的图像进行实验，结果表明采用本文提出的方法可以提高合成图像检测器的检测性能。

Apr, 2023

本篇论文旨在通过 ArtiFact 大型数据集以及多分类分类方案和滤波步幅缩减策略，检测来自已知和未知生成器的合成图像，以增强合成图像探测器的泛化和鲁棒性。结果表明，该方案在 IEEE VIP Cup ICIP 2022 挑战赛上取得了明显的优势。

Feb, 2023

本文介绍了一种解决图片或视频伪造及版权问题的方法，利用生成对抗网络的投影反演算法在白盒情况下，对合成图像进行属性归因和输入的提取。

May, 2019

通过度量学习的方法，我们提出了一种用于实现开放集场景下合成图像源追溯的技术，该技术通过学习可区分不同生成器的可转移嵌入向量，并通过与已知生成器的学习参考点在嵌入空间中的距离来判定图像的真实性。实验结果表明，我们的方法能够在开放集场景下成功追溯合成图像的源。

Aug, 2023

本文针对最新的文本到图像生成模型产生高保真类照片的现象进行了研究，详细探讨了这些合成图像在识别任务中的可行性和应用前景，并提出了针对数据缺乏情况和大规模模型预训练的综合应用策略。

Oct, 2022

通过在训练数据集中引入合成艺术作品，我们研究了人造艺术品检测性能的提升潜力。我们以文森特・梵高的绘画为重点，发布了第一个专门用于检测伪造艺术品的数据集，并在亚美迪奥・莫迪利亚尼和拉斐尔的艺术家身上进行同样的分析。我们使用由稳定扩散和 StyleGAN 生成的以这些艺术家的风格为基础的图像，将人造伪造品和以知名艺术家的风格为基础的仿造品用于训练分类器，发现额外的合成伪造品能够稳定提高对人造伪造品的检测能力。此外，我们还发现，和以前的研究一致，训练数据中包含合成伪造品也能够有效检测出由人工智能生成的伪造品，特别是使用类似生成器生成的伪造品。

Dec, 2023

本研究通过对各种不同类型图像生成器的系统研究，探寻真实与虚假图像之间最具法医学意义的特征，发现合成图像中出现了可见的傅里叶域信号缺陷，以及自相关中出现的异常规律图案，并且当用于训练模型的数据集缺乏足够的多样性时，其偏见会转移到生成的图像中，观察了人造图像与真实图像之间较高频率信号内容的显著差异。

Apr, 2023