本文研究了利用深度神经网络提取面部特征的鲁棒性，通过生成对抗性样本测试了多种算法的可靠性，并提出了自然对抗样本的概念，发现即使在经过多次训练的情况下，网络仍然存在一些本该被正确分类的对抗样本。

Jan, 2018

针对盗用问题，提出一种基于属性变异的对抗攻击方法，该方法通过引入高斯先验和语义鉴别器来干扰深度伪造图像的语义属性空间，从而破解当前最先进的对抗攻击技术并对两种商用深度伪造检测器实现超过 95％的攻击成功率，而人类研究结果表明，该方法生成的深度伪造图像往往对人类来说不可察觉，具有重大的安全与隐私问题。

Dec, 2023

提出了一种具有良好迁移性和隐蔽性的对抗语义掩码攻击框架 (ASMA)，该框架使用了语义掩码来生成具有局部语义区域中的扰动的对抗样本，并通过自适应语义掩码选择策略提高了攻击的迁移性和隐蔽性。与其他对抗攻击方法相比，该方法在公共人脸伪造数据集上具有卓越的性能。

Jun, 2024

该论文提出了一种基于语义对抗攻击的方法，即 SIA，它通过在预定义的语义属性空间和图像空间上的迭代梯度上升来结合语义追踪和感知质量这两个能够解释和分析模型缺陷的特征。该方法在模型诊断、攻击成功率以及不平衡数据鲁棒性方面具有很好的应用前景。

Mar, 2023

本研究旨在探索语义干扰对深度神经网络预测结果的影响，并通过提出的算法 SemanticAdv 来生成对各种 “对抗性” 目标偏离的扰动，从而欺骗深度神经网络。实验结果表明，具有控制语义干扰的对抗性例子不仅可以迷惑不同的学习任务，还可以对抗基于迁移的真实世界黑盒服务。

Jun, 2019

通过利用最近的扩散模型的潜在空间中的语义信息，本文提出了一个快速生成语义对抗攻击的框架，并在 CelebA-HQ 和 AFHQ 数据集上进行了大量实验，与其他基线相比，我们的框架在多种情境中取得了极高的成功率，最佳 FID 为 36.61。

Sep, 2023

通过无需预训练或数据集增强的深度卷积神经网络，本研究提出了一种简单且有效的自动面部特征提取解决方案，并在 CelebA 数据集上获得了最新的面部特征分类结果。研究者还通过引入营造自然对抗样本的概念，证明了对于某些特征，深度卷积神经网络对于对抗性输入是鲁棒的，而对于其他特征则不是。

May, 2016

本研究利用具有解离表示的 StyleGAN 模型，提出了一种在特征空间中搜索对抗潜在编码的框架，可通过文本提示或参考图像来引导搜索，并采用基于元学习的优化策略，在保持不被人类发现的同时成功欺骗法医人脸识别器的同时，成功生成了以指定属性集为真实的对抗伪造面部。

Jun, 2023

该论文提出基于解释性的对抗样本检测技术，通过对神经元的双向对应推断来对抗样本进行检测，实验表明该方法在检测 7 种不同类型的攻击时能够达到 94% 的准确率， 误判率为 9.91%。

Oct, 2018

本文提出了一种新颖的算法，通过对面部图像进行不可感知噪声的添加，从而实现对用户选择的关键属性的匿名化处理，既可以匿名关键属性，又能保护图像质量和身份信息。

May, 2018