CVPRApr, 2021

FACESEC: 面向人脸识别系统的细粒度鲁棒性评估框架

PDF
TL;DR提出 FACESEC 框架，针对人脸识别系统进行精细化鲁棒性评估，并通过评估五个人脸识别系统的表现，发现神经网络结构的准确性比训练数据的知识对于黑盒攻击更为重要；开放式面部识别系统比封闭式系统更易受到不同类型攻击；而对于其他威胁模型变化的攻击有效性则高度依赖于威胁的本质和神经网络结构的选择，例如利用对抗性面部口罩的攻击通常更具攻击性，且 ArcFace 神经网络结构相对于其他网络结构更加稳健。
facesecface recognition systemsadversarial modelingneural network architectureblack-box attacks
发现论文，激发创造
  • 基于决策的有效黑盒对抗攻击人脸识别系统

    本文旨在评估最先进的人脸识别模型在基于决策的黑盒攻击环境下的鲁棒性能，并提出一种新的进化攻击算法以减少搜索空间维度，实验结果表明该方法能够在较少的查询次数内诱导输入的最小扰动，并成功地用于攻击一个真实的人脸识别系统。

    Apr, 2019

  • 对抗性人脸合成

    该论文提出 AdvFaces，一种基于生成对抗网络 (GAN) 的自动化方法，用最小的扰动生成看似合法但实际上能够欺骗最新人脸识别系统的假冒人脸或模糊真正主题的攻击性人脸图像。

    Aug, 2019

  • FaceCat：利用统一的生成模型框架增强人脸识别安全性

    FaceCat 利用人脸生成模型作为预训练模型，通过精心设计的层次融合机制捕捉人脸生成模型的丰富结构和细节特征，为同时执行人脸反欺骗和对抗检测任务的轻量级头部提供稳定的基础。同时，通过特定文本引导的多模态对齐策略丰富特征表达，提高性能。FaceCat 在 28 种攻击类型的广泛实验中验证了其显著提高的泛化能力和对输入变换的优异鲁棒性。

    Apr, 2024

  • 基于深度学习的人脸识别系统对抗性攻击的稳健性解析

    本文针对深度神经网络在人脸识别中的鲁棒性进行了研究，分析了深度学习算法的脆弱性，建立了分类器来检测对深度网络中隐藏层的攻击，并提出了多种方法来缓解攻击影响并提高神经网络的鲁棒性。

    Feb, 2018

  • 快速几何扰动对抗人脸

    本研究探索了几何扰动对人脸识别系统的影响，并提出了一种快速的地标操纵方法，生成的对抗性人脸具有极高的成功率，并且极其健壮，对最新的防御方法也具有攻击能力，代码链接在文中。

    Sep, 2018

  • 多个人脸识别系统组件的同时对抗攻击

    探讨对人脸识别系统安全性的对抗性威胁及其攻击风险，以及一种新的攻击向量，通过对攻击向量的知识来增强部件培训的抗性，并在目标系统上通过预实验分析证明了其有效性。

    Apr, 2023

  • AdvFAS: 对抗性示例下的鲁棒人脸防伪框架

    确保人脸识别系统对抗攻击的可靠性需要部署人脸反欺骗技术。尽管在这个领域取得了相当大的进展，但即使是最先进的方法也难以防御对抗性样本。为了克服这些挑战，我们深入探讨对抗检测与人脸反欺骗之间的关系，并基于此提出了一种强大的人脸反欺骗框架，即 AdvFAS，利用两个耦合分数准确区分正确检测和错误检测的人脸图像。广泛的实验证明了我们的框架在各种设置下的有效性，包括不同的攻击、数据集和骨干网络，同时在清晰的示例上具有高精度。此外，我们成功地将该方法应用于检测真实世界的对抗样本。

    Aug, 2023

  • 人脸识别算法对抗攻击和偏见的鲁棒性

    本文总结了挑战人脸识别算法鲁棒性的不同方式，包括物理攻击、化妆伪装、数字对抗攻击以及使用 GAN 的变形和篡改，同时也讨论了偏见对人脸识别模型性能的影响和增强鲁棒性的未来研究方向。

    Feb, 2020

  • 人脸检测中的鲁棒性差异

    这篇研究论文旨在通过详细的基准测试来检查商业和学术模型的人脸检测问题，特别关注这些系统对于不同身份的人的鲁棒性和公平性的问题，结果发现西方男性、年龄偏大、皮肤较暗和光照条件较差的人更容易受到错误的影响。

    Nov, 2022

  • 具有卷积视觉变换器的强韧面部反欺诈框架

    基于卷积视觉变换器的框架通过全局信息和面部图像中的局部线索来改善人脸识别性能和抵抗领域转变的作用，在面部反欺诈和领域泛化等领域取得了显著的提升。

    Jul, 2023