CVPRJun, 2021

使用生成模型提高对抗性贴片攻击在人脸识别中的可迁移性

PDF
TL;DR本文通过在低维数据流形上规范对抗性贴片生成，从而提高了面部识别系统的鲁棒性，并在数字世界和物理世界上进行了广泛的实验验证。
face recognitiondeep convolutional neural networksadversarial patchestransferabilitylow-dimensional data manifold
发现论文，激发创造
  • 可学习的局部掩模提升对抗迁移能力

    本文提出了一种基于可学习掩模和差分进化算法的预处理方法，通过裁剪模型特定区域以提高泛化性和对抗迁移性，可以进一步提高现有方法的攻击成功率，同时提供了在 Imagenet 数据集上的实验支持。

    Jun, 2023

  • Adversarial Patch 的生成与应用：基于注意力引导特征融合的自然与可迁移性

    通过 Adv-Inpainting 框架生成更具迁移性和视觉质量的自然对抗性贴片，从而改进了先前的对抗性贴片攻击方法。

    Aug, 2023

  • 面向深度人脸识别的可迁移对抗攻击

    本文针对深度卷积神经网络在人脸识别中容易受到可转移性对抗攻击的问题进行了研究，提出了基于 DFANet 的特征级对抗样本生成方法，通过控制 dropout 提高替代模型的多样性并获得集成的效果，该方法在多种模型、训练数据库和网络架构下的实验表明可以显著提高现有攻击方法的可转移性，最终应用于 LFW 数据库成功生成了新的对抗人脸对并攻击了四个商业 API，本文数据集可用于深度人脸识别的鲁棒性和防御研究。

    Apr, 2020

  • 消除对抗攻击在计算机网络间的传递能力整理

    我们提出了一种新颖和全面的方法，以提高对卷积神经网络（CNNs）中对抗性示例的攻击强度和传递性的评估，以及验证计算机网络应用中是否存在传递性问题。我们的研究结果表明，即使在计算机网络应用中，对抗性示例对安全的威胁需要开发新的防御机制来增强深度学习技术的安全性。

    Oct, 2023

  • 通过面向转换的对抗性人脸防御，抵御基于 GAN 的深度伪造攻击

    本研究提出了使用差分随机图像变换的对抗攻击作为 GAN-based Deepfake 的防御方法，同时使用基于集合的方法加强了攻击的鲁棒性。

    Jun, 2020

  • 对基于 CNN 的图像取证的对抗样本可转移性研究

    本文探索了在图像取证应用程序中，攻击是否具有传递性，并证明在大多数情况下攻击是不可传递的，至少当攻击者不完全了解目标检测器时，可以简化适当的对策设计。

    Nov, 2018

  • 深度神经网络中对抗性样本的可迁移性调查

    深度神经网络的关键问题之一是对抗性攻击和转移性，考虑到安全性和未来的发展，需要加强对抗性漏洞的防御。

    Oct, 2023

  • Adv-Diffusion: 通过潜在扩散模型实施难以察觉的敌对人脸身份攻击

    该研究论文提出了一种统一的框架 Adv-Diffusion，可以在潜在空间而不是原始像素空间中生成不可感知的对抗性身份扰动，利用潜在扩散模型的强大修补能力生成逼真的对抗性图像。通过在周围环境中生成语义扰动的身份敏感条件扩散生成模型，设计了自适应强度的对抗性扰动算法，既能确保攻击的可传递性又能保持隐秘性。在公开的 FFHQ 和 CelebA-HQ 数据集上进行了广泛的定性和定量实验，证明该方法在没有额外的生成模型训练过程的情况下取得了卓越的性能。源代码可在此链接中获取。

    Dec, 2023

  • 图像和视频对象检测的可传递对抗性攻击

    本研究提出了一种基于生成对抗网络（GAN）框架的方法，通过联合训练高级别类别损失和低级别特征损失，获得生成对抗图像和视频，并成功解决了对目标检测模型的对抗攻击中存在的二合一问题：低的迁移能力和高的计算成本。

    Nov, 2018

  • 人脸识别领域中卷积神经网络的对抗性攻击

    本文以 Fast Gradient Sign Method 为基础，对面部图像数据集进行扰动，测试不同黑盒攻击算法的鲁棒性，并重点研究修改单个最佳像素或所有像素的攻击方法。研究结果表明，所有像素攻击方法能使分类器置信度平均下降至 84％，且 81.6％的误分类率，但这些图像始终可以被人类识别。该研究可为防御性对抗攻击、自适应噪声降低技术等方面的 DNNs 训练和研究提供宝贵的参考。

    Jan, 2020