合成摄影检测：识别人工智能合成图像的视觉指导
本篇论文旨在通过ArtiFact大型数据集以及多分类分类方案和滤波步幅缩减策略，检测来自已知和未知生成器的合成图像，以增强合成图像探测器的泛化和鲁棒性。结果表明，该方案在IEEE VIP Cup ICIP 2022挑战赛上取得了明显的优势。
Feb, 2023
本研究通过对各种不同类型图像生成器的系统研究，探寻真实与虚假图像之间最具法医学意义的特征，发现合成图像中出现了可见的傅里叶域信号缺陷，以及自相关中出现的异常规律图案，并且当用于训练模型的数据集缺乏足够的多样性时，其偏见会转移到生成的图像中，观察了人造图像与真实图像之间较高频率信号内容的显著差异。
Apr, 2023
本研究探究当前最先进的基于人工智能技术的视觉内容生成模型是否可以始终欺骗人类眼睛和传达错误信息，并通过高质量的定量研究揭示，人类不能在很大程度上区分真实的照片和人工智能创造的虚假照片。
Apr, 2023
通过人类语义知识和眼动实验研究假图像检测的可能性，结果显示人们在感知伪造样本时倾向于关注图像的更局部区域，与观看真实图像时更分散的观察模式形成对比。
Mar, 2024
人工智能的发展催生了数字内容生成的转变，特别对网络影响操作产生了深远的影响。本文研究了扩散模型等生成深度学习模型在制造令人信服的合成图像方面的潜力和局限性，并对这些工具的可接近性、实用性和输出质量进行了批判性评估，同时分析了它们在欺骗、影响和颠覆威胁情景中的影响。在几个假设的网络影响操作中，本报告生成内容来展示这些AI驱动方法当前的能力和局限性。虽然生成模型擅长生成插图和非现实的图像，但创建令人信服的逼真照片内容仍面临重大挑战，受计算资源和必须人工指导改进的必要性限制。我们的探索强调了技术进步和其滥用潜力之间的微妙平衡，推动进行持续研究、防御机制、多学科合作和政策发展。这些建议旨在利用人工智能的潜力产生积极的影响，同时防范对信息完整性的风险，尤其是在网络影响的背景下。
Mar, 2024
通过学习真实图像的自然特征，利用监督对比学习的方法，我们的研究提出了一种探测器，针对虚假图像中的伪像纹理的变化进行检测，并在广泛的实验证明了其在未知伪造技术的泛化和对不同变换的鲁棒性方面的显著优势。
Mar, 2024
该研究综述了关于合成图像的检测和归因方法，突出了它们的优点和局限性，同时指出并讨论了该领域的热门话题，概述了未来研究的有希望的方向。
Apr, 2024
本研究聚焦于合成图像检测（SID）的缺陷，识别了当前训练范式中的两种偏见：削弱的伪影特征和过拟合的伪影特征。提出了一种名为SAFE的轻量级检测器，通过简单的图像变换（如裁剪、颜色抖动和随机旋转）来增强局部感知，从而在开放世界数据集上实现了新的最先进的检测性能，准确性提高4.5%。
Aug, 2024