通过反向工程将对抗样本归类至代表其算法和参数的类中，进而遏制不良者进行相关攻击。

Jan, 2023

通过评估非可逆性要求的满足程度以及面部嵌入提取器的漏洞评估，本文研究了声称提供软生物特征隐私保护的方法以及隐私保护中使用的转换复杂性，实验结果表明，受保护的面部嵌入可以在达到约 98% 的精度时重构。

Oct, 2023

本研究通过引入层次原点目标合成技术（LOTS）提出了一般化的方法来生成称为对抗性样本的样本，研究比较了使用欧几里得距离和余弦距离的系统和 end-to-end VGG Face 网络的对抗鲁棒性，表明通过使用 LOTS 可以非常有效地攻击利用深度特征的系统，使其比 end-to-end 网络更容易受到攻击。

Nov, 2016

本文介绍了一种更真实的模型反演攻击定义，并利用生成对抗网络的属性构建连通的低维流形。我们在此流形内实施的模型反演攻击表现出高效率。

Oct, 2019

该论文提出了一种名为神经指纹的简单而有效的方法，通过验证模型行为是否与一组秘密指纹一致的方法检测对抗性例子，具有检测速度快、攻击者极难逆向工程以及不需要假定对手知识等优势。该方法在各种威胁模型下均表现优异，成功检测出了具有最强攻击性的对抗样本，同时还能很好地适应各种超参数和指纹选择。

Mar, 2018

我们提出了一种基于指纹的深度神经网络分类器方法，用于检测机器学习服务中的模型盗窃攻击，该方法提取一组从源模型中提供的输入，只有代理模型能够在这些输入上与源模型一致地进行分类。

Dec, 2019

本文提出了一种新颖且实用的机制，通过模型提取攻击来验证是否从受害者模型中盗取了嫌疑模型，并针对深度神经网络模型提出了 UAP 指纹识别方法，训练了一个通过对比学习的编码器，可以在仅检测 20 个指纹的情况下以置信度 > 99.99 检测出模型 IP 侵犯，并且在不同的模型架构下具有良好的普适性，在盗版模型上具有较强的鲁棒性。

Feb, 2022

本文介绍了一种新型攻击方法 —— 生成模型反演攻击，它可以显著地提高逆转深度神经网络的准确率，攻击者使用部分公共信息学习分布先验，引导逆转过程，并且通过实验证明了差分隐私在该攻击下的防御效果有限。

Nov, 2019

使用深度神经网络 (DNN) 的内部表示，通过微小和无法察觉的扰动来操作图片的表示来模仿其他自然图片的表示，从而生成一类新的对抗性图片，这种现象提出了关于 DNN 表示和自然图片本身属性的问题。

Nov, 2015

开发生物识别身份验证系统时，隐私和安全是一个重要问题。本文介绍了一种创新的图像扭曲技术，通过神经网络模型使人脸图像在肉眼无法识别的情况下保持其可识别性，既解决了人工智能和工程领域中的相关挑战，又在生物识别身份验证系统中实现了安全、精确性和性能的平衡。

Jan, 2024