Nov, 2023

发现野外产生的人工智能生成面孔

PDF
TL;DR基于人工智能图像生成的技术不断提升，产生更具逼真性且视觉缺陷较少的图像。这些图像被用于创建虚假在线账户，用于垃圾邮件、欺诈和虚假信息传播活动。本研究聚焦于区分真实的面部和基于人工智能生成的面部，以解决使用伪造用户头像的非真实在线账户检测问题。通过仅关注面部，我们展示了一种更具有弹性和通用性的工件，可以检测来自各种生成对抗网络和扩散基础合成引擎的人工智能生成面部，同时适用于多种图像分辨率（低至 128 x 128 像素）和质量。
ai-based image generationreal face detectionai-generated facesfake user profile photogan- and diffusion-based synthesis engines
发现论文，激发创造
  • 真实世界中的 AI 生成面孔：一项关于 Twitter 头像的大规模案例研究

    人工智能的生成性进展使真实和机器生成的内容之间的界限变得模糊，尤其在社交媒体上使用 AI 生成的图片来伪造个人资料。我们进行了首次大规模调查，研究发现 Twitter 上的 AI 生成头像占总头像数量的 0.052％。我们对这些账户及其推文内容进行了全面分析，并揭示了协同不真实行为的模式。研究结果还揭示了垃圾邮件和政治放大战略等多种动机。这一研究结果再次证实了需要制定有效的检测和缓解策略来应对未来生成性人工智能可能带来的负面影响。

    Apr, 2024

  • 具有 AI 生成面孔的虚假社交媒体账户的特征和普及率

    通过使用生成对抗网络 (GANs) 生成的具有人脸的推特用户作为样本，本研究系统分析了近期发展的生成人工智能 (AI) 在创建可信的假社交媒体账户方面的潜在问题。结果发现这些账户被用于传播欺诈、垃圾邮件以及增强协调的信息等虚假行为，并通过利用 GAN 生成的人脸中眼睛位置的特征以及人工注释的方法，对野外中的 GAN 生成的个人资料进行有效的识别。研究估计活跃推特用户中使用 GAN 生成的人脸的比例下限为 0.021% 至 0.044%，即每天约有 1 万个活跃账户。这些发现凸显了多模态生成 AI 所带来的新威胁。研究者公开了检测方法的源代码和收集到的数据以助于进一步调查，并提供实用启发法帮助社交媒体用户辨别此类账户。

    Jan, 2024

  • 迈向 AI 合成人脸图像的检测

    通过建立一个综合基准测试来评估最先进的检测器的泛化能力和鲁棒性，然后通过频域分析伪造痕迹来得出各种见解，并进一步证明使用频率表示训练的检测器可以很好地泛化到其他未见的生成模型。

    Feb, 2024

  • GAN 生成的面孔检测：综述和新视角

    通过分析当前 GAN 人脸检测的研究方向和方法，本文对深度学习、物理学、生理学以及与人类视觉性能的评估和比较等方法进行了分类，总结出不同类别的关键思路并与其具体实现相联系，讨论了存在的问题并提出了未来研究方向。

    Feb, 2022

  • 人工智能指导在合成面孔检查中的价值

    该研究探究了在合成图像检测中使用人工智能支持的人类操作员与使用传统方法训练的模型的效果比较，结果发现人工智能在训练时使用的人类指导会提供更好的图像分类支持。同时，向人类操作员提供合成图像检测模型的决策或热点映射可以提高模型的分类准确性并增加人类操作员的信任感，从而提高人类操作员与人工智能合作的效果。

    Aug, 2022

  • WildFake: 一个用于人工智能生成图像检测的大规模挑战数据集

    评估生成模型检测的概括性和鲁棒性，我们提供了一个大规模数据集 WildFake，包含最新的生成器、各种物体类别和实际应用，其丰富性和层次结构提高了对 WildFake 上训练的检测器的泛化性和鲁棒性，从而展示 WildFake 在真实场景下作为 AI 生成图像检测器的重要性和有效性。

    Feb, 2024

  • 如何区分人工智能生成的图像与真实照片

    这篇研究论文介绍了一种指南，帮助读者更好地识别 AI 生成图像中的伪造和不合理之处，以区分真实照片和 AI 生成图像。

    Jun, 2024

  • 利用机器学习识别人工智能生成的合成图像

    利用机器学习技术来区分 AI 生成的合成图像和真实图像，通过优化深度学习模型和对比实验结果表明，深度学习模型可以更准确地识别合成图像，进一步推动数字媒体可信度及 AI 生成内容的伦理和技术探索。

    Jan, 2024

  • 在线检测 AI 生成图像

    通过研究 AI 生成图像的检测方法以及泛化性能，本研究扩展了像素预测的应用并评估了使用合成图像训练像素检测器的可行性。

    Oct, 2023

  • 有机还是扩散型：我们能区分人类艺术和 AI 生成的图像吗？

    生成对抗网络图像与人类创作之间的区分是个具有挑战性的问题，本论文通过使用监督学习的分类器以及艺术家使用其艺术技巧的方法，对现代生成模型的性能进行了研究，并分析了自动化检测器和人类团队的结合可以提供最佳的准确性和鲁棒性。

    Feb, 2024