关于攻击深度特征的研究

Nov, 2016

LOTS about Attacking Deep Features

Andras Rozsa, Manuel Günther, Terrance E. Boult

TL;DR本研究通过引入层次原点目标合成技术（LOTS）提出了一般化的方法来生成称为对抗性样本的样本，研究比较了使用欧几里得距离和余弦距离的系统和 end-to-end VGG Face 网络的对抗鲁棒性，表明通过使用 LOTS 可以非常有效地攻击利用深度特征的系统，使其比 end-to-end 网络更容易受到攻击。

Abstract

deep neural networks provide state-of-the-art performance on various tasks and are, therefore, widely used in real world applications. DNNs are becoming frequently utilized in biometrics for extracting deep featu

deep neural networks biometrics adversarial examples adversarial robustness end-to-end networks

发现论文，激发创造

LAFEAT：通过潜在特征穿透对抗防御

本文介绍了目前 CNN 模型容易受到对抗攻击的困境，提出了一种可以利用隐藏组件 LAFEAT 进行攻击的算法，并证明该算法不仅计算效率更高，而且比目前现有的防御技术更为强大。这表明模型鲁棒性可能取决于防御者隐藏组件的有效使用，并且不应从整体的角度来看待。

Apr, 2021

DLA: 密集层分析用于对抗样本检测

本文介绍了一种新的端到端框架来检测深度神经网络中可能存在的对抗样本，采用神经元覆盖率引导测试来分析 DNN 的密集层激活模式，以实现实时检测，能够覆盖各种类型的 DNN 架构，包括 LSTM，防御了最先进的攻击，同时提供确保无法轻易绕过的白盒自适应攻击。

Nov, 2019

面向深度人脸识别的可迁移对抗攻击

本文针对深度卷积神经网络在人脸识别中容易受到可转移性对抗攻击的问题进行了研究，提出了基于 DFANet 的特征级对抗样本生成方法，通过控制 dropout 提高替代模型的多样性并获得集成的效果，该方法在多种模型、训练数据库和网络架构下的实验表明可以显著提高现有攻击方法的可转移性，最终应用于 LFW 数据库成功生成了新的对抗人脸对并攻击了四个商业 API，本文数据集可用于深度人脸识别的鲁棒性和防御研究。

Apr, 2020

通过逐层特征分析来防御后门攻击

本文介绍了一种利用关键层分析区分正常样本和感染样本的方法，从而缓解深度神经网络的后门攻击。

Feb, 2023

使用特征归因检测对抗样本的 ML-LOO 算法

本文提出了一种基于深度神经网络特征的模型对抗性样本检测方法，并在多项实验中实现优异性能，尤其能有效检测攻击方法间的转换与混合置信水平的攻击样本。

Jun, 2019

深度特征分布的可迁移扰动

该研究提出了一种基于类别和层次深度特征分布建模和利用的新型对抗攻击方法，其可实现针对未受保护的 ImageNet 模型的最先进的有针对性的黑盒转移攻击结果，并且具有攻击过程可解释性和可解释性的优先级。

Apr, 2020

关于深度生物特征表示的对抗反演

本研究针对深度神经网络嵌入式特征表示的反演问题进行了研究，发现攻击者可以通过利用现成的深度神经网络模型和公共数据集，仅通过获取到的特征表示和攻击者的先验知识，模拟原始模型的行为，并构建成功鉴别的生物特征重建模型。