RADAP：一种面向人脸识别的稳健自适应防御对抗性贴片

Nov, 2023

RADAP：一种面向人脸识别的稳健自适应防御对抗性贴片

RADAP: A Robust and Adaptive Defense Against Diverse Adversarial Patches on Face Recognition

Xiaoliang Liu, Furao Shen, Jian Zhao, Changhai Nie

TL;DR本文提出了 RADAP，它是一种针对封闭集和开放集人脸识别系统中各种对抗补丁的强大而适应性的防御机制。RADAP 采用创新技术，如 FCutout 和 F-patch，利用傅里叶空间采样掩蔽来提高人脸识别模型的遮挡鲁棒性和补丁分割器的性能。此外，我们引入了边缘感知的二进制交叉熵（EBCE）损失函数来提高补丁检测的准确性。同时，我们还提出了一种名为分割与填充（SAF）的策略，用于对抗补丁分割器受到的完全白盒自适应攻击的漏洞。我们进行了全面的实验证明了 RADAP 的有效性，它在防御各种对抗补丁的性能方面取得了显著的改进，同时保持了干净准确性高于未防御的 Vanilla 模型。

Abstract

Face recognition (FR) systems powered by deep learning have become widely used in various applications. However, they are vulnerable to adversarial attacks, especially those based on local adversarial patches tha

face recognition systems deep learning adversarial attacks defense mechanism adversarial patches

发现论文，激发创造

DAP: 一种用于规避人物检测器的动态对抗贴纸

本文提出了一种新颖的方法来生成自然的对抗性补丁，该方法不使用 GANs 并通过引入相似度指标构建相似度损失来重新定义优化问题，从而提高实际应用中的攻击效率和鲁棒性。该技术基于直接修改补丁中的像素值，可灵活地同时纳入多种变换。加入 “Creases Transformation”（CT）模块来增加对服装和物体姿态中的各种真实世界扭曲的鲁棒性，并在现场部署的智能相机的 YOLOv3tiny 检测器中展现出了优越的攻击成功率。

May, 2023

基于随机补丁的人脸识别系统物理攻击防御策略

本文提出了一种基于随机贴片的防御策略来检测人脸识别系统的物理攻击，该方法相较深度神经网络在检测攻击方面具有更好的鲁棒性。实验结果表明该方法在检测白盒攻击和自适应攻击方面的性能均优于传统防御方法，并且其易于实现，可推广至其他防御方法以提高检测性能。

Apr, 2023

NeRFTAP：利用神经辐射场提升对抗性贴片在人脸识别中的可转移性

我们提出了一种考虑到人脸识别模型的可迁移性和受害者人脸图像的新型对抗攻击方法 NeRFTAP，在使用 NeRF-based 3D-GAN 生成新视角人脸图像的基础上，引入了样式一致性损失来提高生成的对抗性人脸图像的有效性和自然性。在各种人脸识别模型上的大量实验证明我们的方法相比现有的攻击技术更为优越。我们的研究为提高实际对抗环境中人脸识别系统的稳健性提供了宝贵的见解。

Nov, 2023

具身主动防御：利用循环反馈对抗对抗性补丁

通过活跃的感知和反馈机制，Embodied Active Defense（EAD）开发了一种主动的防御策略，积极地上下文化环境信息来解决 3D 实际环境中的对抗修补问题，提高模型的鲁棒性。

Mar, 2024

生成逼真的对抗补丁

深度神经网络容易受到各种类型的对抗性样本的攻击，并且现有的对抗性修补方法通常生成的修补具有无意义的噪声或图案，本研究旨在生成真实视觉效果的对抗性修补以欺骗深度神经网络。通过在真实图像的邻域内限制修补的位置，优化位置的不相关性，并采用总变差损失和伽马变换以保留信息，生成的对抗性修补具有卓越的攻击性能，并且可以伪装成物理世界中的涂鸦或标志来欺骗深度模型，给深度神经网络应用带来重大威胁。

Dec, 2023

DPatch: 物体探测器的对抗性贴片攻击

本文提出了 DPatch，一种黑盒子对现代计算机视觉系统（如 Faster R-CNN 和 YOLO）的基于敌对的黑盒贴片攻击。与原始的敌对贴片只操纵图像级分类器不同，DPatch 同时攻击边界框回归和对象分类以禁用它们的预测，具有非常高的转移性且实践性强。

Jun, 2018

REAP：大规模真实对抗贴片基准测试

该研究提出了一个数字基准 (REAP) 使用户能够在实际图像及真实情况下评估补丁攻击，通过实验证明补丁攻击可能比以前认为的威胁较小，而在简单的数字模拟下的攻击成功率并不预测其在实践中的实际效果。

Dec, 2022

FRT-PAD：基于人脸相关任务驱动的有效呈现攻击检测

该论文介绍了一种利用人脸相关任务先验知识来提高 Presentation Attack Detection (PAD) 的泛化能力的方法，该方法包括引入人脸相关任务的特征、设计跨模态适配器以重新映射特征并使用卷积神经网络 (CNN) -basaed PA 检测器的分层特征和重新映射特征来实现 PAD。实验结果表明，该方法在复杂和混合数据集上表现显着优于现有技术。

Nov, 2021

PAD：面向对抗性贴纸攻击的面片无关防御

提出了一种名为 PAD 的新颖的对抗贴纸定位和去除方法，该方法不需要先前知识或额外训练，提供了针对各种对抗贴纸的无关补丁防御，与任何预训练的物体检测器兼容。

Apr, 2024

对抗相机补丁：一种有效并且稳定的物理世界目标检测攻击

研究者正在研究深度神经网络的易受攻击性，并提出了一种新的基于相机的攻击方法，该方法引入了摄像头补丁以执行潜在的隐秘攻击，并提出了一个对抗相机补丁来解决多补丁复杂性的问题。

Dec, 2023