通过可转移的对抗样本进行深度神经网络指纹识别

Dec, 2019

通过可转移的对抗样本进行深度神经网络指纹识别

Deep Neural Network Fingerprinting by Conferrable Adversarial Examples

Nils Lukas, Yuxuan Zhang, Florian Kerschbaum

TL;DR我们提出了一种基于指纹的深度神经网络分类器方法，用于检测机器学习服务中的模型盗窃攻击，该方法提取一组从源模型中提供的输入，只有代理模型能够在这些输入上与源模型一致地进行分类。

Abstract

In machine learning as a service, a provider trains a deep neural network and gives many users access. The hosted (source) model is susceptible to model stealing attacks, where an adversary derives a surrogate model from API access to the source model. For post hoc detection of such at

machine learning as a service model stealing attacks fingerprinting method conferrable adversarial examples surrogate model detection

发现论文，激发创造

通过神经指纹识别对抗性样本

该论文提出了一种名为神经指纹的简单而有效的方法，通过验证模型行为是否与一组秘密指纹一致的方法检测对抗性例子，具有检测速度快、攻击者极难逆向工程以及不需要假定对手知识等优势。该方法在各种威胁模型下均表现优异，成功检测出了具有最强攻击性的对抗样本，同时还能很好地适应各种超参数和指纹选择。

Mar, 2018

从对抗样本的指纹中进行逆向工程的对抗性攻击

通过反向工程将对抗样本归类至代表其算法和参数的类中，进而遏制不良者进行相关攻击。

Jan, 2023

通过通用对抗扰动对深度神经网络进行全局指纹识别

本文提出了一种新颖且实用的机制，通过模型提取攻击来验证是否从受害者模型中盗取了嫌疑模型，并针对深度神经网络模型提出了 UAP 指纹识别方法，训练了一个通过对比学习的编码器，可以在仅检测 20 个指纹的情况下以置信度 > 99.99 检测出模型 IP 侵犯，并且在不同的模型架构下具有良好的普适性，在盗版模型上具有较强的鲁棒性。

Feb, 2022

生成模型的人工指纹：通过训练数据来追根揭底深度伪造图像的来源

我们通过嵌入人工指纹到生成对抗网络的训练数据中，展示了指纹从训练数据中转移到生成模型的惊人传递性，并证明此解决方案对多种诸如深度伪造检测和归属等任务都有效，且鲁棒性强。

Jul, 2020

自然指纹：使用生成式对抗网络生成自然指纹

本研究提出了一种基于生成对抗网络（GAN）生成自然指纹的方案，并在决策差异区域而不是决策边界上嵌入这些指纹以提高鲁棒性。实验证明该方案在四种不同的模型攻击测试中表现出色，超过 MetaV 的最优基准线约 17％。

May, 2023

来自贝叶斯神经网络的有效且可迁移的对抗样本

使用贝叶斯深度学习技术，以神经网络权重的后验分布进行抽样建立一个 surrogate，可以进一步提高黑盒攻击的可转移性，本文探究了提高攻击可转移性的训练方法，将我们方法的表现与几种已有方法进行了比较，能够在 ImageNet 上获得 94% 的准确率。

Nov, 2020

深度神经网络中对抗性样本的可迁移性调查

深度神经网络的关键问题之一是对抗性攻击和转移性，考虑到安全性和未来的发展，需要加强对抗性漏洞的防御。

Oct, 2023

指纹式深度神经网络模型样本相关性检测

提出了一种基于 SAmple Correlation (SAC) 的模型窃取检测方法，该方法选择被错误分类的正常样本作为模型输入，并计算它们的模型输出的平均相关性，结果表明该方法能够有效防御各种模型窃取攻击。

Oct, 2022

采用对抗指纹识别来量化得分生成模型的样本匿名性

本文提出了一种通过设计对抗方法搜索解剖指纹（如医疗设备或皮肤艺术）来估计重现可识别训练图像的概率上限的方法，利用学习到的基于分数的模型估计可能用于一对一复制训练样本的分数函数子空间的概率，结果表明，如果模型没有小心训练，则在采样时会复制侵犯隐私的图像。

Jun, 2023

对基于 CNN 的图像取证的对抗样本可转移性研究

本文探索了在图像取证应用程序中，攻击是否具有传递性，并证明在大多数情况下攻击是不可传递的，至少当攻击者不完全了解目标检测器时，可以简化适当的对策设计。

Nov, 2018