本文介绍了一种解决图片或视频伪造及版权问题的方法,利用生成对抗网络的投影反演算法在白盒情况下,对合成图像进行属性归因和输入的提取。
May, 2019
由于缺乏在未知架构上工作的方法,使得大多数合成图像归因的方法只能归因于训练集中的模型或架构生成的图像,限制了其在实际场景中的适用性。本文提出了一个验证框架,该框架依赖于孪生网络,以解决将合成图像归因为生成它们的架构的开放集问题。我们考虑了两种不同的设置。第一种设置,系统确定两幅图像是否由同一生成架构产生。第二种设置,系统验证关于用于生成合成图像的架构的声明,利用由声称的架构生成的一个或多个参考图像。所提出系统的主要优势在于其能够在封闭集和开放集场景下运行,使得输入图像,无论是查询图像还是参考图像,都可以属于训练过程中考虑的架构或不属于它们。实验评估涵盖了各种生成架构,如 GAN、扩散模型和变压器,重点关注合成人脸图像生成,在封闭集和开放集设置下均证实了我们的方法的卓越性能和强大的泛化能力。
Jul, 2023
生成式人工智能的最新进展已经导致了生成视觉逼真合成视频的技术的发展。本文证明合成图像检测器无法检测合成视频,因为合成视频生成器引入的痕迹与图像生成器留下的痕迹明显不同。尽管如此,我们展示了合成视频痕迹是可以学习的,并且可以在 H.264 重新压缩后用于可靠的合成视频检测或生成器来源归因。此外,我们还证明了通过零样本迁移进行新生成器的视频检测具有挑战性,但可以通过少样本学习实现对新生成器的准确检测。
Apr, 2024
本文探讨了在不同概念类之间泛化的挑战,并提出了一种基于质量评估模型的质量抽样方法,通过 StyleGAN2 和 Latent Diffusion 生成的图像进行实验,结果表明采用本文提出的方法可以提高合成图像检测器的检测性能。
Apr, 2023
本文提出了一种基于逐步扩展开放空间的解决方案,即 Progressive Open Space Expansion(POSE),用于 Open-Set Model Attribution(OSMA)任务中,以同时将图像归因于已知模型并识别来自未知模型的图像。
Mar, 2023
本文研究如何在开放集场景下识别人工智能处理的图片,提出一种基于 Vision Transformers 和位置信息的分类方法,并使用拒绝策略过滤不能识别的图片。此方法在面部属性编辑和 GAN 属性分类任务上取得了较好分类效果。
本篇论文旨在通过 ArtiFact 大型数据集以及多分类分类方案和滤波步幅缩减策略,检测来自已知和未知生成器的合成图像,以增强合成图像探测器的泛化和鲁棒性。结果表明,该方案在 IEEE VIP Cup ICIP 2022 挑战赛上取得了明显的优势。
Feb, 2023
利用机器学习技术来区分 AI 生成的合成图像和真实图像,通过优化深度学习模型和对比实验结果表明,深度学习模型可以更准确地识别合成图像,进一步推动数字媒体可信度及 AI 生成内容的伦理和技术探索。
Jan, 2024
基于背门攻击的开放集分类器的合成图像溯源方法 (BOSC),通过注入类特定触发器来诱导网络建立类特征与触发特征的匹配,以此设计分类器并进行样本拒绝的方法。在实验证明该方法在合成图像溯源任务中表现良好,超过了最先进技术,并且对图像处理具有很好的鲁棒性,同时该框架还可应用于其他图像取证应用领域。
May, 2024
通过反转图像的文本提示并将重构的提示放入不同的候选模型中来重新生成候选伪图片,通过计算并排序测试图片与候选图片的相似性,我们可以确定图片的来源模型,从而使模型的所有者对其模型的任何滥用负有责任。
Mar, 2024