合成媒体对人类日常生活具有很高的欺骗性，人类的感知检测能力不再是有效的对抗手段。

Mar, 2024

AI 生成的媒体对我们所知的数字社会构成威胁。与技术进步相比，人们对生成媒体的感知尚未得到彻底研究。本文通过针对音频、图像和文本媒体跨三个国家（美国、德国和中国）的 3,002 位参与者进行全面的调查，结果显示，最先进的赝品几乎无法与 “真实” 媒体区分，大多数参与者在被要求评价时只是猜测它们是人工生成的还是机器生成的。此外，AI 生成的媒体在所有媒体类型和所有国家中更容易被误认为是人类产生的。为了进一步了解影响人们对生成媒体检测能力的因素，本文根据对 deepfake 和虚假新闻研究领域的文献综述，包括个人变量。通过回归分析，我们发现广义信任、认知反思和自报熟悉程度等个人变量显著影响参与者在所有媒体类别中的决策。

Dec, 2023

通过人类语义知识和眼动实验研究假图像检测的可能性，结果显示人们在感知伪造样本时倾向于关注图像的更局部区域，与观看真实图像时更分散的观察模式形成对比。

Mar, 2024

人们对深度伪造视频的感知能力进行主观研究，结果显示机器学习模型相对于人类在同样的 40 个视频上有更好的表现，而人们又往往高估了自己的检测能力。这一研究结果有助于对比人类和机器的性能、推进法医分析，并实现自适应对策。

May, 2024

基于人工智能图像生成的技术不断提升，产生更具逼真性且视觉缺陷较少的图像。这些图像被用于创建虚假在线账户，用于垃圾邮件、欺诈和虚假信息传播活动。本研究聚焦于区分真实的面部和基于人工智能生成的面部，以解决使用伪造用户头像的非真实在线账户检测问题。通过仅关注面部，我们展示了一种更具有弹性和通用性的工件，可以检测来自各种生成对抗网络和扩散基础合成引擎的人工智能生成面部，同时适用于多种图像分辨率（低至 128 x 128 像素）和质量。

Nov, 2023

这篇研究论文介绍了一种指南，帮助读者更好地识别 AI 生成图像中的伪造和不合理之处，以区分真实照片和 AI 生成图像。

Jun, 2024

人工智能的生成性进展使真实和机器生成的内容之间的界限变得模糊，尤其在社交媒体上使用 AI 生成的图片来伪造个人资料。我们进行了首次大规模调查，研究发现 Twitter 上的 AI 生成头像占总头像数量的 0.052％。我们对这些账户及其推文内容进行了全面分析，并揭示了协同不真实行为的模式。研究结果还揭示了垃圾邮件和政治放大战略等多种动机。这一研究结果再次证实了需要制定有效的检测和缓解策略来应对未来生成性人工智能可能带来的负面影响。

Apr, 2024

该研究探究了在合成图像检测中使用人工智能支持的人类操作员与使用传统方法训练的模型的效果比较，结果发现人工智能在训练时使用的人类指导会提供更好的图像分类支持。同时，向人类操作员提供合成图像检测模型的决策或热点映射可以提高模型的分类准确性并增加人类操作员的信任感，从而提高人类操作员与人工智能合作的效果。

Aug, 2022

使用合成数据，基于计算机视觉，通过卷积神经网络和可解释的 AI 技术实现对人眼难以区分真实照片和 AI 生成的图片的分类，最终建立的 CIFAKE 数据集对于未来的研究工作提供了有价值的资源。

Mar, 2023

本文研究了人们对于生成式人工智能中的文本到图像生成技术的看法和担忧，发现尽管参与者意识到技术所带来的风险与危险，却只有少数人认为技术对个人的风险，风险对于其他人来说更容易认识，而且参与者尤其认为艺术家是处于风险中的人群，未尝试过这项技术的参与者对其未来重要性的评价要低于尝试过的参与者，说明许多人仍然未察觉生成式人工智能的潜在个人风险及其所带来的社会变革。

Jun, 2023