对目标检测模型进行基于查询的模型提取攻击的挑战和可行性进行研究，提出了一种名为 MEAOD 的有效攻击方法，通过主动学习从攻击者拥有的数据集中选择样本构建高效的查询数据集，并通过更新查询数据集的标注来提高提取效果，在 10k 查询预算下，达到超过 70% 的提取性能。

Dec, 2023

模型提取攻击是对机器学习即服务（MLaaS）平台的机器学习模型功能性进行 “窃取” 的主要威胁，本文通过综合多个角度对当前 MLaaS 平台的模型提取漏洞进行了深入研究，揭示了漏洞的演化规律，并提出了一些提高 MLaaS 的安全性的建议。

Dec, 2023

现代计算系统中，侧信道分析（SCA）对隐私和安全构成明显威胁。大部分通信通过加密算法来保护，尽管这些算法从密码学角度通常是安全的，但实际硬件上的实现会引入漏洞。本研究关注最新的深度学习技术在侧信道分析中的运用，探讨了深度学习技术的理论基础和实际操作。主要研究重点放在利用深度学习技术进行分析的攻击模式，以及一些新兴的由深度学习技术加强的方法，如非基于剖析的攻击、人工迹线生成等。最后，我们将评估和比较针对 ANSSI SCA 数据库（ASCAD）的不同深度学习增强的侧信道分析方案及其相对性能。这将为安全密码学实施抵御最新侧信道分析攻击的研究方向提供新的参考。

Feb, 2024

本文提出了一种利用自我监督学习预训练和主动采样的方法，只使用查询访问功能对小规模语音模型进行对抗攻击模型提取，实验结果表明，该采样方法可以有效地提取目标模型，而不需要知道其模型架构。

Nov, 2022

近年来，深度学习在嵌入式加密应用的侧信道漏洞利用方面越来越受欢迎，因为它可以减少有效密钥恢复所需的攻击轨迹数量。本研究基于 ANSSI 侧信道攻击数据库（ASCAD），采用基于 JAX 的深度学习框架，重现了以前的一些结果并试图改进性能，并研究了各种基于 Transformer 的模型的有效性。

Sep, 2023

部署在设备上的机器学习模型可能泄露服务提供者的专有信息，我们提出了一个名为 SODA 的端到端框架，用于在边缘设备上执行、提供服务并防御恶意使用。实验结果表明，SODA 可以在少于 50 次查询中以最小的服务性能、延迟和存储影响下，以 89% 的准确率检测恶意使用。

Dec, 2023

本文提出了 MEGEX，针对一种梯度可解释人工智能的数据自由模型提取攻击。攻击者使用解释结果来训练生成模型以减少查询次数，可以在不准备输入数据的情况下成功窃取训练好的模型。实验表明，在 SVHN 和 CIFAR-10 数据集上，给定 200 万和 2000 万个查询，我们提出的方法可以重构高准确度的模型，分别是受害模型准确度的 0.97 倍和 0.98 倍，这暗示着模型的可解释性和难以窃取之间存在折衷。

Jul, 2021

研究探讨了机器学习模型解释与攻击的关系，并提出了基于知识蒸馏的替代模型提取方法和添加差分隐私的对抗性解释生成方法。实验结果表明，添加隐私保护会影响解释器的性能和生成的对抗性解释的质量，使攻击性能降低。

Apr, 2024

使用主动学习和大规模公共数据集的模型提取框架，可以通过黑盒访问从图像和文本领域的各种数据集中训练出的深度分类器，其中仅使用其 30%（30,000 个样本）的数据集。

May, 2019

通过基于样本重构的概念，介绍了一种新颖的防御机制 SAME，能够解决深度学习模型在 MLaaS 环境下的模型提取攻击问题，并且相较于现有解决方案具有更强的防御效果。

Dec, 2023