Jul, 2024

合成痕迹掩盖真实内容：稳定扩散图像篡改的分析

HTML
PDF
TL;DR我们的论文研究了图像清洗的法医学意义，揭示了模糊真实内容的严重潜力，包括可能被错误分类为合成图像的敏感和有害材料，从而损害所涉者的保护。为了解决这个问题，我们提出了一个有效区分原始、清洗和全合成图像（从文本提示生成的图像）的两阶段检测流程，在各种条件下表现出鲁棒性。最后，我们强调了图像清洗的另一个令人担忧的性质，它似乎掩盖了法医检测器用来解决相机模型识别任务的独特伪迹，严重削弱了它们的性能。
发现论文，激发创造
  • 关于检测扩散模型生成的合成图像

    本文旨在了解人们无法将由扩散模型产生的合成图像与原始图像区分开来的难度，并研究当前的最先进检测器是否适用于此任务。

    Nov, 2022

  • 扩散模型生成的合成数据是否适用于知识蒸馏？

    本文研究了在没有真实图像的情况下，使用最先进的扩散模型生成的合成图像是否适用于知识蒸馏，并得出了三个关键结论：（1）扩散模型的合成数据可以在现有的合成蒸馏方法中轻松地实现最先进的性能；（2）低保真度合成图像是更好的教材；（3）相对较弱的分类器是更好的教师。

    May, 2023

  • 关于量化和改善扩散生成图像的逼真度

    通过五个统计量计算的图像逼真度评分（IRS）是一个高效的图像逼真度度量，也可用作判断图像真实与否的指标。实验结果表明，IRS可以成功检测由多种高质量生成模型生成的假图像，并且可以通过改进模型的生成损失函数，显著提高生成内容的质量。

    Sep, 2023

  • 富贫纹理对比：一种简单而有效的AI生成图像检测方法

    通过利用图像中富质地和贫质地纹理区域之间的像素间关联差异特征，我们提出了一种能够识别广泛范围生成模型生成的假图像的新型AI生成图像检测器，并构建了一个综合的AI生成图像检测基准来评估现有基线与我们的方法的有效性。

    Nov, 2023

  • 扩散模型与图像逆向取证相遇

    评估了扩散模型消除伪造留下的痕迹和欺骗取证方法的能力，并展示了这种方法在反取证任务方面的优越性。

    Nov, 2023

  • 让真实图像作为判断者，发现由生成模型合成的假图像

    通过学习真实图像的自然特征，利用监督对比学习的方法，我们的研究提出了一种探测器，针对虚假图像中的伪像纹理的变化进行检测，并在广泛的实验证明了其在未知伪造技术的泛化和对不同变换的鲁棒性方面的显著优势。

    Mar, 2024

  • FakeInversion: 通过反转稳定扩散学习检测从未见过的文本图像模型生成的图像

    由于GenAI系统滥用的潜力很高，检测合成图像的任务最近备受研究界的关注。本文提出一种利用反转开源预训练的稳定扩散模型获取的特征的新型合成图像检测器。我们展示这些反转特征使得我们的检测器能够很好地泛化到高视觉保真度的未知生成器上（例如，DALL-E 3），即使该检测器仅在通过稳定扩散生成的低保真度伪图像上训练。这个检测器在多个训练和评估设置上取得了新的最先进水平。此外，我们引入了一种新的具有挑战性的评估协议，使用反向图像搜索来减轻检测器评估中的风格和主题偏见。我们展示所得的评估分数与检测器在野外的性能一致，并将这些数据集作为未来研究的公共基准发布。

    Jun, 2024

  • Safe-SD：稳定扩散的安全可追溯文本提示触发不可见生成水印

    我们提出了一种安全、可追踪的稳定扩散框架 (名为Safe-SD)，通过在生成扩散过程中将图形水印 (如QR码) 植入不可感知的结构相关像素，来支持以文本驱动的隐形水印和检测。我们的方法在两个代表性数据集LSUN、COCO和FFHQ上呈现了定量和定性结果，展示了Safe-SD的最新性能，并表明它明显优于以前的方法。

    Jul, 2024

  • 隐形扩散：通过扩散模型规避扩散取证检测

    本研究解决了AI生成内容隐形（AIGC-S）所面临的挑战，即创造能逃避取证检测和人类检查的AI生成图像。提出的StealthDiffusion框架采用稳定扩散技术，生成高质量、不可感知的对抗样本，能够有效规避最先进的取证检测器。实验表明，该方法在白盒和黑盒环境中均表现出色，生成的对抗伪造品的频谱与真实图像相似，难以被检测和区分。

    Aug, 2024

  • 合成摄影检测：识别人工智能合成图像的视觉指导

    本研究针对合成图像与真实照片的辨别问题，揭示了生成扩散模型在创建合成图像时所产生的可见伪影。我们对这些伪影进行了分类和实例展示，并讨论了检测所面临的挑战，以及本研究的实际应用和未来研究方向。

    Aug, 2024