AI 生成图像检测的合理性检查
随着生成模型的能力增长,人工内容检测成为一项越来越重要且困难的任务。本文关注 AI 生成图像(AIGI)检测器的鲁棒性,通过分析基于冻结 CLIP 嵌入的现有最先进方法并展示如何解释它们,我们揭示了各种 AI 生成器生成的图像与真实图像的差异,并提出了两种改进鲁棒性的方法:基于去除嵌入向量的有害成分和基于选择图像编码模型中表现最佳的注意力头。我们的方法在交叉模型转换中将平均超出分布(OOD)分类得分提高了高达 6%。我们还提出了一个用于 AIGI 检测的新数据集,并在评估中使用了该数据集;我们相信这个数据集将有助于推动进一步的研究。数据集和代码已作为补充提供。
Jun, 2024
该论文介绍了 GenImage 数据集,该数据集拥有超过 100 万对人工智能生成的假图像和真实图像,且具有丰富的图像内容和最先进的生成器,通过该数据集,研究人员可以有效加快相对于现有方法的优越人工智能生成图像检测器的开发和评估。
Jun, 2023
该研究论文提出了一种系统性尝试,以理解和检测在对抗场景中生成的 AI 图像(AI 艺术)。该论文收集和分享了一个名为 ARIA 的数据集,其中包含来自四种热门 AI 图像生成器生成的真实图像和对应的人工对应图像。通过对 ARIA 数据集进行用户研究和基准测试,评估了真实世界用户和现有 AI 图像检测器在识别这些图像上的能力,并介绍了一个 ResNet-50 分类器,并评估了它在 ARIA 数据集上的准确性和可迁移性。
Apr, 2024
利用机器学习技术来区分 AI 生成的合成图像和真实图像,通过优化深度学习模型和对比实验结果表明,深度学习模型可以更准确地识别合成图像,进一步推动数字媒体可信度及 AI 生成内容的伦理和技术探索。
Jan, 2024
使用合成数据,基于计算机视觉,通过卷积神经网络和可解释的 AI 技术实现对人眼难以区分真实照片和 AI 生成的图片的分类,最终建立的 CIFAKE 数据集对于未来的研究工作提供了有价值的资源。
Mar, 2023
该论文提出了一种针对未知生成器的异常检测视角下的对抗式师生差异感知框架,通过采用对抗学习训练特征增强器,促使真实图像与教师模型之间的输出差异较小,而假图像的输出差异较大,从而解决了未知生成器检测问题。实验结果在公共基准测试中达到了最先进水平,可视化结果显示在面对各种类型的生成器时仍能保持较大的输出差异。
Dec, 2023
通过建立一个综合基准测试来评估最先进的检测器的泛化能力和鲁棒性,然后通过频域分析伪造痕迹来得出各种见解,并进一步证明使用频率表示训练的检测器可以很好地泛化到其他未见的生成模型。
Feb, 2024
本文提出了一种基于语言引导对比学习的合成图像检测方法,通过添加文本标签来进行联合文本 - 图像对比学习进行取证特征提取,并将合成图像检测问题制定为一种识别问题。该方法在准确性和 AUC 指标上明显优于同类问题的现有方法。
May, 2023
本文介绍了用于 AI 生成视频检测的广泛视频数据集 GenVidDet 和一种创新有效的方法 Dual-Branch 3D Transformer,该方法能够以 96.77% 的准确率区分真实视频和生成视频内容,并对未知类型具有较强的泛化能力。
May, 2024