Oct, 2023

探索基于决策的黑盒攻击对人脸伪造检测的影响

PDF
TL;DR利用决策导向攻击和频率线索，我们提出了一种新的人脸伪造攻击方法，具有高查询效率和保证图像质量，在 FaceForensics++、CelebDF 和工业 API 上实现了攻击性能的最新突破，同时揭示了人脸伪造检测器的安全问题。
face forgery generation technologiesface forgery detectionadversarial examplesdecision-based attacksfrequency cues
发现论文，激发创造
  • 基于决策的有效黑盒对抗攻击人脸识别系统

    本文旨在评估最先进的人脸识别模型在基于决策的黑盒攻击环境下的鲁棒性能，并提出一种新的进化攻击算法以减少搜索空间维度，实验结果表明该方法能够在较少的查询次数内诱导输入的最小扰动，并成功地用于攻击一个真实的人脸识别系统。

    Apr, 2019

  • 探索基于频率对抗性攻击的人脸造假检测

    本文提出了一种基于离散余弦变换（DCT）的频率对抗攻击方法，以欺骗面部伪造检测器。通过引入融合模块来捕获对手在频率域中显着的区域，我们的方法比空间域中的现有对抗攻击更为难以察觉，并且不会降低原始图像的视觉质量。在实验中，我们发现该方法有效地欺骗了空间域和最先进的频率域检测器，并增强了面部伪造检测器之间的可靠性。

    Mar, 2022

  • 对抗性人脸合成

    该论文提出 AdvFaces，一种基于生成对抗网络 (GAN) 的自动化方法，用最小的扰动生成看似合法但实际上能够欺骗最新人脸识别系统的假冒人脸或模糊真正主题的攻击性人脸图像。

    Aug, 2019

  • 深度伪造检测的对抗威胁：实用角度分析

    本研究以黑盒方式对当今最先进的 DeepFake 检测方法进行批判性漏洞研究，旨在提高其鲁棒性，包括对抗攻击和使用通用对抗样本进行更容易的攻击。该研究还在 DeepFake 检测挑战赛的获奖入口上进行了评估，并证明了它们可以很容易地被跨模型攻击所绕过。

    Nov, 2020

  • 一种基于几何启发的决策攻击

    该研究提出了 qFool 算法，它是一种基于决策的攻击算法，可以使用少量的查询生成对抗样本。该算法可以在减少查询数量的同时，在低频子空间中限制对抗扰动，从而使其更具计算效率。最终，该算法在商业图像识别系统中获得了欺骗效果的证明。

    Mar, 2019

  • 人脸识别领域中卷积神经网络的对抗性攻击

    本文以 Fast Gradient Sign Method 为基础，对面部图像数据集进行扰动，测试不同黑盒攻击算法的鲁棒性，并重点研究修改单个最佳像素或所有像素的攻击方法。研究结果表明，所有像素攻击方法能使分类器置信度平均下降至 84％，且 81.6％的误分类率，但这些图像始终可以被人类识别。该研究可为防御性对抗攻击、自适应噪声降低技术等方面的 DNNs 训练和研究提供宝贵的参考。

    Jan, 2020

  • 毒害伪造脸部：面向面部伪造检测的后门攻击

    嵌入了后门攻击的面部伪造检测方法的新威胁以及提出的解决方案。

    Feb, 2024

  • 人脸验证系统的广义攻击

    该研究论文通过深度神经网络模型实现人脸验证，并研究了人脸验证系统所遭受的对抗攻击，提出了 DodgePersonation Attack 及其相关分类，以及一种名为 ''One Face to Rule Them All'' Attack 的攻击方法来欺骗人脸验证系统。

    Sep, 2023

  • 通过面向转换的对抗性人脸防御，抵御基于 GAN 的深度伪造攻击

    本研究提出了使用差分随机图像变换的对抗攻击作为 GAN-based Deepfake 的防御方法，同时使用基于集合的方法加强了攻击的鲁棒性。

    Jun, 2020

  • 面部代表性伪造挖掘用于伪造人脸检测

    本论文提出一种基于注意力机制的数据增广框架，用于改善卷积神经网络在伪造人脸检测中关注面部有限区域的现象，通过跟踪和遮蔽 Top-N 敏感面部区域，鼓励检测器深入挖掘以前忽略的区域，从而达到指出不同操纵技术生成的伪造面孔的表现最好的检测器训练效果，同时我们的方法能够轻松集成到各种 CNN 模型中。

    Apr, 2021