CVPRJun, 2024

PUDD：面向鲁棒的多模态原型深度伪造检测

PDF
TL;DR提出了一种基于相似性的检测系统，通过将输入数据与已知原型进行比较，分析相似度降低，来进行视频分类，识别潜在的深度伪造图像或之前未见过的类别，PUDD 在 Celeb-DF 上达到 95.1% 的准确率，表现优于最先进的深度伪造图像检测方法，同时在推断过程中，在图像分类和深度伪造图像检测任务中表现出了良好的性能，且重新训练只需 2.7 秒，并且相对于最先进的模型，排放出的碳排放量减少了 10^5 倍，更加环保。
发现论文，激发创造
  • 深度伪造检测的稳健性与泛化性：扩散模型研究

    通过对深度伪造图像的产生和检测进行深入研究，本论文提出了一种全面的深度伪造图像生成与识别的方法。在我们的研究中，我们创建了一个名为 DeepFakeFace (DFF) 的数据集，用于训练和测试检测深度伪造图像的算法。我们进行了对 DFF 数据集的全面评估，并提出了两种评估方法来测试深度伪造识别工具的强度和适应性。根据我们的发现，不同的深度伪造方法和图像变化产生了多种结果，突显了对深度伪造检测器的需求。我们的 DFF 数据集和测试旨在促进更有效的抵御深度伪造的工具的发展。

    Sep, 2023

  • 一款探测器，称霸所有：通向通用深度伪装攻击检测框架

    通过引入卷积 LSTM 残差网络（CLRNet）并探索深度伪造（DeepFake）中的时空信息，我们提出了一种更通用的方法来检测由多种方法产生的深度伪造，包括 DeepFake-in-the-Wild（DFW），此方法在多个基准数据集上表现良好并进行了评估。

    May, 2021

  • 扩散深度伪造

    通过生成式 AI 和扩散模型，我们引入了两个广泛的生成伪造数据集，用于测试当前深伪造检测器的脆弱性，并提出了增强训练数据多样性和动量困难提升策略来改进模型的普适性。通过全面评估，我们的模型优化方法明显优于以前的替代方案。

    Apr, 2024

  • 深度伪造检测在实际场景中的评估框架

    提出了一个更可靠的评估框架来评估在更现实的情境下学习型 deepfake 检测器的性能，并量化其对不同处理操作的鲁棒性，同时设计了一个基于真实处理操作驱动的随机退化数据增强方法，显著提高了 deepfake 检测器的鲁棒性。

    Apr, 2023

  • 深度伪造检测的对抗威胁：实用角度分析

    本研究以黑盒方式对当今最先进的 DeepFake 检测方法进行批判性漏洞研究，旨在提高其鲁棒性，包括对抗攻击和使用通用对抗样本进行更容易的攻击。该研究还在 DeepFake 检测挑战赛的获奖入口上进行了评估，并证明了它们可以很容易地被跨模型攻击所绕过。

    Nov, 2020

  • 现实世界中的实时深伪检测

    该研究论文介绍了 “局部感知深度伪造检测算法”（LaDeDa），该算法使用单个 9x9 图像块作为输入，并输出其深度伪造得分。利用图像块级别的信息，LaDeDa 显著提高了检测的准确性，在当前基准测试中达到了约 99% 的平均准确率。此外，通过将 LaDeDa 简化为只有 4 层卷积层的高效模型 Tiny-LaDeDa，实现了 375 倍的浮点运算降低和 10000 倍的参数效率提高，使其可以在边缘设备上高效运行，并在准确性略微下降的情况下获得令人瞩目的成绩。然而，实验发现当前训练协议存在问题，导致方法无法推广到从社交媒体上提取的真实世界深度伪造图像。为解决这一问题，研究引入了一个新的深度伪造检测数据集 WildRF，该方法在该数据集上实现了 93.7% 的最佳性能，然而与完美准确度之间存在较大差距，表明可靠的真实世界深度伪造检测问题仍未解决。

    Jun, 2024

  • 深度学习方法检测深度伪造内容综述

    本文通过深度学习方法，系统地回顾了近年来深度伪造内容识别的研究，并报告了对于未解决的深伪造检测问题和不足之处的未来方向。

    Feb, 2022

  • 深度假象图像检测在威胁环境不断演化中的近期进展分析

    深度伪造检测与防御研究方向的关键词有：深度伪造、检测、防御、生成模型和对抗攻击。

    Apr, 2024

  • 实用深度伪造检测：全球背景下的漏洞

    本文研究深度学习技术生成的深度伪造视频的真实性检测问题，发现现有算法对于视频质量降低的数据污染容易攻击。研究在全球范围内实现实际的深度伪造检测并引出技术和伦理道德上的问题。

    Jun, 2022

  • 深假视频检测器的普适性研究

    研究了 deepfake 检测器的泛化能力，发现现有模型难以适应未经训练的 deepfakes 数据集，但鉴于它们普遍学习合成方法的特定属性并难以提取区分特征，发现有神经元对已见和未见数据集都起到检测作用，为实现零样本泛化能力指明了可能的方向。

    Aug, 2023