通过神经指纹识别对抗性样本

Mar, 2018

Detecting Adversarial Examples via Neural Fingerprinting

Sumanth Dathathri, Stephan Zheng, Tianwei Yin, Richard M. Murray, Yisong Yue

TL;DR该论文提出了一种名为神经指纹的简单而有效的方法，通过验证模型行为是否与一组秘密指纹一致的方法检测对抗性例子，具有检测速度快、攻击者极难逆向工程以及不需要假定对手知识等优势。该方法在各种威胁模型下均表现优异，成功检测出了具有最强攻击性的对抗样本，同时还能很好地适应各种超参数和指纹选择。

Abstract

deep neural networks are vulnerable to adversarial examples, which dramatically alter model output using small input changes. We propose Neural Fingerprinting, a simple, yet effective method to detect

deep neural networks adversarial examples neural fingerprinting detection mechanisms auc-roc

发现论文，激发创造

从对抗样本的指纹中进行逆向工程的对抗性攻击

通过反向工程将对抗样本归类至代表其算法和参数的类中，进而遏制不良者进行相关攻击。

Jan, 2023

通过可转移的对抗样本进行深度神经网络指纹识别

我们提出了一种基于指纹的深度神经网络分类器方法，用于检测机器学习服务中的模型盗窃攻击，该方法提取一组从源模型中提供的输入，只有代理模型能够在这些输入上与源模型一致地进行分类。

Dec, 2019

自然指纹：使用生成式对抗网络生成自然指纹

本研究提出了一种基于生成对抗网络（GAN）生成自然指纹的方案，并在决策差异区域而不是决策边界上嵌入这些指纹以提高鲁棒性。实验证明该方案在四种不同的模型攻击测试中表现出色，超过 MetaV 的最优基准线约 17％。

May, 2023

通过通用对抗扰动对深度神经网络进行全局指纹识别

本文提出了一种新颖且实用的机制，通过模型提取攻击来验证是否从受害者模型中盗取了嫌疑模型，并针对深度神经网络模型提出了 UAP 指纹识别方法，训练了一个通过对比学习的编码器，可以在仅检测 20 个指纹的情况下以置信度 > 99.99 检测出模型 IP 侵犯，并且在不同的模型架构下具有良好的普适性，在盗版模型上具有较强的鲁棒性。

Feb, 2022

GanFinger: 基于 GAN 的指纹生成用于深度神经网络所有权验证

我们提出了一种名为 GanFinger 的网络指纹方法，通过基于网络行为的网络输出对的原始示例和可转让的对抗示例来构建网络指纹，并利用生成对抗网络（GANs）有效生成具有察觉不到的扰动的可转让的对抗示例，从而在版权和盗版网络上产生相同的输出而在无关网络上产生不同的结果。对 GanFinger 的性能评估表明，在效率、隐蔽性和可辨识性方面都显著优于现有技术，其中指纹生成速度提高了 6.57 倍，ARUC 值提升了 0.175，相对改进约为 26%。

Dec, 2023

生成模型的人工指纹：通过训练数据来追根揭底深度伪造图像的来源

我们通过嵌入人工指纹到生成对抗网络的训练数据中，展示了指纹从训练数据中转移到生成模型的惊人传递性，并证明此解决方案对多种诸如深度伪造检测和归属等任务都有效，且鲁棒性强。

Jul, 2020

深度神经网络的噪声响应分析评估其稳健性和结构恶意软件指纹

本文提出了一种快速特征生成技术，可以对深度神经网络进行快速的安全检测，尤其是可以在几秒钟内检测出所谓的后门 (backdoors)，并且无需大量计算资源和训练数据。

Jul, 2020

检测来自伪像的对抗性样本

本文介绍了一种利用深度学习神经网络中 Bayesian 不确定性估计和密度估计的方法，可以实现对于对抗样本的检测，具有很好的泛化性能，并在标准分类任务上取得了 85-93% 的 ROC-AUC 表现。

Mar, 2017

关于深度生物特征表示的对抗反演

本研究针对深度神经网络嵌入式特征表示的反演问题进行了研究，发现攻击者可以通过利用现成的深度神经网络模型和公共数据集，仅通过获取到的特征表示和攻击者的先验知识，模拟原始模型的行为，并构建成功鉴别的生物特征重建模型。

Apr, 2023

针对生成对抗网络的指纹成员和身份推断

评估生成式机器学习模型在身份保护方面的漏洞，并通过设计和测试一种身份推断攻击来验证其有效性。实验结果表明，该解决方案在不同配置下都有效，并且可以轻松扩展到其他生物测量数据集。

Jun, 2024