Apr, 2020

面向深度人脸识别的可迁移对抗攻击

PDF
TL;DR本文针对深度卷积神经网络在人脸识别中容易受到可转移性对抗攻击的问题进行了研究，提出了基于 DFANet 的特征级对抗样本生成方法，通过控制 dropout 提高替代模型的多样性并获得集成的效果，该方法在多种模型、训练数据库和网络架构下的实验表明可以显著提高现有攻击方法的可转移性，最终应用于 LFW 数据库成功生成了新的对抗人脸对并攻击了四个商业 API，本文数据集可用于深度人脸识别的鲁棒性和防御研究。
face recognitiondeep learningadversarial attacksdfanetrobustness
发现论文，激发创造
  • 使用生成模型提高对抗性贴片攻击在人脸识别中的可迁移性

    本文通过在低维数据流形上规范对抗性贴片生成，从而提高了面部识别系统的鲁棒性，并在数字世界和物理世界上进行了广泛的实验验证。

    Jun, 2021

  • 深度神经网络中对抗性样本的可迁移性调查

    深度神经网络的关键问题之一是对抗性攻击和转移性，考虑到安全性和未来的发展，需要加强对抗性漏洞的防御。

    Oct, 2023

  • 深度伪造检测的对抗威胁：实用角度分析

    本研究以黑盒方式对当今最先进的 DeepFake 检测方法进行批判性漏洞研究，旨在提高其鲁棒性，包括对抗攻击和使用通用对抗样本进行更容易的攻击。该研究还在 DeepFake 检测挑战赛的获奖入口上进行了评估，并证明了它们可以很容易地被跨模型攻击所绕过。

    Nov, 2020

  • 面部属性是否具有对抗性鲁棒性？

    通过无需预训练或数据集增强的深度卷积神经网络，本研究提出了一种简单且有效的自动面部特征提取解决方案，并在 CelebA 数据集上获得了最新的面部特征分类结果。研究者还通过引入营造自然对抗样本的概念，证明了对于某些特征，深度卷积神经网络对于对抗性输入是鲁棒的，而对于其他特征则不是。

    May, 2016

  • 人脸识别领域中卷积神经网络的对抗性攻击

    本文以 Fast Gradient Sign Method 为基础，对面部图像数据集进行扰动，测试不同黑盒攻击算法的鲁棒性，并重点研究修改单个最佳像素或所有像素的攻击方法。研究结果表明，所有像素攻击方法能使分类器置信度平均下降至 84％，且 81.6％的误分类率，但这些图像始终可以被人类识别。该研究可为防御性对抗攻击、自适应噪声降低技术等方面的 DNNs 训练和研究提供宝贵的参考。

    Jan, 2020

  • 基于决策的有效黑盒对抗攻击人脸识别系统

    本文旨在评估最先进的人脸识别模型在基于决策的黑盒攻击环境下的鲁棒性能，并提出一种新的进化攻击算法以减少搜索空间维度，实验结果表明该方法能够在较少的查询次数内诱导输入的最小扰动，并成功地用于攻击一个真实的人脸识别系统。

    Apr, 2019

  • 对抗图像翻译：面部识别系统中的无限对抗样本

    利用图像翻译技术生成无限制的对抗样本，欺骗目标脸部识别系统并通过认证防御，实现了攻击成功率约为 90% 和 80% 的结果，同时保持个体的可识别性和感知逼真度。

    May, 2019

  • 对基于 CNN 的图像取证的对抗样本可转移性研究

    本文探索了在图像取证应用程序中，攻击是否具有传递性，并证明在大多数情况下攻击是不可传递的，至少当攻击者不完全了解目标检测器时，可以简化适当的对策设计。

    Nov, 2018

  • 基于深度学习的人脸识别系统对抗性攻击的稳健性解析

    本文针对深度神经网络在人脸识别中的鲁棒性进行了研究，分析了深度学习算法的脆弱性，建立了分类器来检测对深度网络中隐藏层的攻击，并提出了多种方法来缓解攻击影响并提高神经网络的鲁棒性。

    Feb, 2018

  • LFAA：使用低频扰动创建可转移的定向对抗样本

    通过利用深度神经网络对图像高频分量的扰动的脆弱性，我们提出了一种新方法来生成可转移的有针对性对抗样本，该方法通过训练条件生成器生成针对性的对抗扰动，并将其添加到图像的低频分量中，实验证明我们的方法显著优于现有的方法，将有针对性攻击成功率提高了 3.2% 至 15.5%。

    Oct, 2023