Mar, 2022

针对实用人脸识别系统的强力物理对抗样本

PDF
TL;DR本文旨在提高面部识别系统的物理攻击强度。通过使用新的平滑损失函数和 Patch-noise 结合的攻击方法，生成更加平滑且具有更强的物理攻击强度的对抗样本。实验结果表明，相比传统技术，使用平滑性损失的物理拆迁方法可以提高 1.17 倍的平均攻击成功率（ASR），而 Patch-noise 结合的攻击方法可以实现 2.39 倍的 ASR 提升。
adversarial examplesface recognitionsmoothness losspatch-noise combo attackphysical attacks
发现论文，激发创造
  • 深度学习模型的鲁棒性物理攻击

    该研究介绍了一种通用的攻击算法，RP2，用于在不同的物理条件下产生强大的视觉对抗扰动，以及一种用于评估物理对抗性的两阶段评估方法，通过黑白贴纸形式的扰动对真实的红绿灯进行攻击，在实验室测试和场地测试结果分别达到 100% 和 84.8% 的目标分类器的误分率。

    Jul, 2017

  • AdvGen: 针对人脸展示攻击检测系统的物理对抗攻击

    通过自动生成对抗性图像的方式，本研究展示了面部认证系统在实际场景中对对抗性图像的脆弱性，并提出 AdvGen 作为一种自动化生成对抗网络来模拟打印和重放攻击，生成可以欺骗最新型 PAD 的对抗性图像，其攻击成功率高达 82.01%。本研究在四个数据集和十个最新型 PAD 上对 AdvGen 进行了广泛测试，并在真实的物理环境中进行了实验证明了攻击的有效性。

    Nov, 2023

  • 基于随机补丁的人脸识别系统物理攻击防御策略

    本文提出了一种基于随机贴片的防御策略来检测人脸识别系统的物理攻击，该方法相较深度神经网络在检测攻击方面具有更好的鲁棒性。实验结果表明该方法在检测白盒攻击和自适应攻击方面的性能均优于传统防御方法，并且其易于实现，可推广至其他防御方法以提高检测性能。

    Apr, 2023

  • 针对物理人脸识别的有效对抗性纹理三维网格

    本文旨在开发一种更可靠的技术，能够对商业系统进行端到端的对抗性鲁棒性评估，其中采用拟人面部上的精细拓扑的对抗性纹理 3D 网格可欺骗黑盒识别模型并回避防御机制，详尽的数码和物理实验证明了该方法的有效性，包括三种识别 API、四种反欺诈 API、两种流行的手机和两种自动门禁系统。

    Mar, 2023

  • 针对物理攻击的稳健音频对抗样本

    本研究提出了一种生成音频对抗样本的方法，可以在实际场景中攻击一种最先进的语音识别模型。通过模拟播放或录制的变换并将这些变换融合到生成过程中，我们得到的对抗样本具有鲁棒性，能够在不被人类察觉的情况下进行攻击，这表明所提出的音频对抗样本可能会成为一个真正的威胁。

    Oct, 2018

  • 对抗性人脸合成

    该论文提出 AdvFaces，一种基于生成对抗网络 (GAN) 的自动化方法，用最小的扰动生成看似合法但实际上能够欺骗最新人脸识别系统的假冒人脸或模糊真正主题的攻击性人脸图像。

    Aug, 2019

  • 关于对 ArcFace-100 人脸识别系统的现实攻击的对抗贴片研究

    本文研究了面部识别系统的真实世界攻击问题，提出了一种可以产生对抗性贴片的简单方法，通过该方法可以将对抗属性添加到照片中并进行攻击。

    Oct, 2019

  • 对 3D 人脸识别的物理世界光学对抗攻击

    通过利用光学噪声攻击 3D 人脸识别系统，该研究设计了端到端的攻击算法，成功地攻击了基于点云和深度图的 3D 人脸识别算法，变形不可见且需要比先前的物理攻击更少的扰动。

    May, 2022

  • 针对监视的物理对抗攻击：一项调查

    本文回顾了最近在物理对抗攻击方面的尝试和发现，并提出了一种框架来分析物理对抗攻击，并在该框架下对四个关键监控任务：检测，识别，跟踪和动作识别进行了全面的调查。此外，我们还回顾并分析了防御物理对抗攻击的策略和评估防御优势的方法。这篇论文为在监控系统中建立抵抗物理对抗攻击的韧性迈出了重要一步。

    May, 2023

  • 人脸识别系统的对抗性光照投影攻击：可行性研究

    本文使用基于深度学习的对抗光投影攻击系统在人脸识别领域进行了实时物理攻击的实验，证实了人脸识别系统在白盒和黑盒攻击设置下均易受到对抗攻击的威胁。

    Mar, 2020