隐秘的物理面部伪装识别攻击通过对抗性样式优化

Sep, 2023

隐秘的物理面部伪装识别攻击通过对抗性样式优化

Stealthy Physical Masked Face Recognition Attack via Adversarial Style Optimization

Huihui Gong, Minjing Dong, Siqi Ma, Seyit Camtepe, Surya Nepal...

TL;DR本研究提出了一种对深度学习人脸识别模型进行针对性攻击的新型隐蔽物理掩码攻击方法，通过对抗性风格优化，在风格掩码内隐藏对抗扰动，实现了强大而隐蔽的对抗风格掩码生成，通过广泛的实验验证了该方法的有效性和可移植性。

Abstract

deep neural networks (DNNs) have achieved state-of-the-art performance on face recognition (FR) tasks in the last decade. In real scenarios, the deployment of DNNs requires taking various face accessories into co

deep neural networks face recognition adversarial examples facial mask adversarial style optimization

发现论文，激发创造

蒙面人戴口罩

本研究探究了配备口罩检测器的现代人脸识别系统在大规模戴口罩时的潜在漏洞，并提出了一种新的任务 —— 生成逼真的对抗性口罩面孔以欺骗两个系统，经过实验后发现对近期的深度学习人脸识别系统来说具有破坏性。

Jan, 2022

对抗伪装：利用自然风格隐藏物理世界攻击

本研究提出了一种新的方法 ——Adversarial Camouflage，在数字和现实情境下都能够制造出看起来合理、而且几乎不被发现的隐形对抗样本，以此来检验 DNN 的鲁棒性。

Mar, 2020

基于决策的有效黑盒对抗攻击人脸识别系统

本文旨在评估最先进的人脸识别模型在基于决策的黑盒攻击环境下的鲁棒性能，并提出一种新的进化攻击算法以减少搜索空间维度，实验结果表明该方法能够在较少的查询次数内诱导输入的最小扰动，并成功地用于攻击一个真实的人脸识别系统。

Apr, 2019

基于深度学习的人脸识别系统对抗性攻击的稳健性解析

本文针对深度神经网络在人脸识别中的鲁棒性进行了研究，分析了深度学习算法的脆弱性，建立了分类器来检测对深度网络中隐藏层的攻击，并提出了多种方法来缓解攻击影响并提高神经网络的鲁棒性。

Feb, 2018

人脸识别领域中卷积神经网络的对抗性攻击

本文以 Fast Gradient Sign Method 为基础，对面部图像数据集进行扰动，测试不同黑盒攻击算法的鲁棒性，并重点研究修改单个最佳像素或所有像素的攻击方法。研究结果表明，所有像素攻击方法能使分类器置信度平均下降至 84％，且 81.6％的误分类率，但这些图像始终可以被人类识别。该研究可为防御性对抗攻击、自适应噪声降低技术等方面的 DNNs 训练和研究提供宝贵的参考。

Jan, 2020

关于人脸识别和人脸防伪模型的对抗性攻击

同时对人脸识别系统和人脸反欺骗模型进行对抗攻击，通过样式对齐的分布偏差、实例风格对齐和梯度一致性维护模块，提高对黑盒攻击的容量，通过大量实验表明该攻击方法优于现有的对抗攻击方法。

May, 2024

面向模型反演攻击的适应性混合遮蔽策略的隐私保护人脸识别

本文介绍了一种针对模型反演攻击的自适应混合遮蔽算法，通过在频域中使用自适应 MixUp 策略对人脸图像进行遮蔽，较传统方法获得更好的隐私保护和识别准确性。

Mar, 2024

Adv-Makeup: 一种新的对人脸识别具有隐形性和可迁移性的攻击

本文提出一种 Adv-Makeup 统一的对抗人脸生成方法，实现在黑盒环境下的不可察觉和可转移攻击，它使用任务驱动的化妆生成方法和精细的元学习对抗攻击策略，能够在数字和物理环境下生成更为不可察觉的攻击，并显著提高黑盒环境下的攻击成功率。

May, 2021

隐匿明目之间：对抗性干扰扰乱人工智能人脸合成

本研究通过在训练数据中添加微不可见的对抗干扰因素，破坏基于深度神经网络的人脸检测器的质量，从而防止个人受到最近利用 AI 合成的假面孔可能造成的负面社会影响。我们在白盒、灰盒和黑盒环境下描述了攻击方案，并在若干数据集上实证展示了我们的方法破坏最先进的基于 DNN 的人脸检测器的有效性。

Jun, 2019

使用基于神经网络的约束优化对人脸检测器进行对抗性攻击

本文提出了一种新的对抗生成网络（adversarial generator network）求解约束优化问题来产生对抗性样本的策略，该方法经过简单训练后线性扩展的能力很强，可以攻击还未曾见过的新图片，使用此技术针对 Faster R-CNN 人脸检测模型可将原本检测人脸的成功率从 100% 降低到仅 0.5%。

May, 2018