model extraction attacks | BriefGPT

关键词model extraction attacks

搜索结果 - 30

使用嵌入进行图神经网络的所有权验证
介绍了用于防止模型抽取攻击的 GNN 模型指纹方案 GrOVe，它可以可靠地确定嫌疑模型是否是独立训练得到的，即使它使用与目标模型相同的训练数据集和架构。
PDFa year ago
EZClone：通过 GPU 执行配置进行形状提炼来提高 DNN 模型提取攻击的效果
研究了深度神经网络的模型抽取攻击，提出应对不同威胁模型的两种 DNN 结构抽取技术（PyTorch 分析器和 EZClone），并验证 EZClone 在最小化攻击复杂性、应用于修剪模型和在多个 GPU 上应用方面的有效性，发现其在对整个
PDFa year ago
通过隐形水印保护语言生成模型
提出 GINSEW 方法以保护文本生成模型免受窃取，通过在目标令牌的解码步骤的概率向量中注入秘密信号，并在疑犯模型中检测秘密信息，GINSEW 可以有效地识别知识产权侵权的实例，表现出比之前的方法对抗去除水印攻击有 19 至 29 点的平均
PDFa year ago
CVPR通过通用对抗扰动对深度神经网络进行全局指纹识别
本文提出了一种新颖且实用的机制，通过模型提取攻击来验证是否从受害者模型中盗取了嫌疑模型，并针对深度神经网络模型提出了 UAP 指纹识别方法，训练了一个通过对比学习的编码器，可以在仅检测 20 个指纹的情况下以置信度 > 99.99 检测出模
PDF2 years ago
ICLR使用校准的工作量证明增加模型抽取的成本
该论文提出使用防止机器学习模型被窃取的一种新方法 —— 在用户读取模型的预测结果之前，要求其完成一个工作量证明。这种方法不会影响正常用户的使用，并能够使用差分隐私工具衡量查询所揭示的信息。
PDF2 years ago
从查询中高效学习任何一个具有单个隐层 ReLU 的网络
本研究基于黑盒访问网络，提出第一个多项式时间算法以学习任意单隐藏层神经网络激活函数，并在高斯测量意义下实现对原神经网络的低二次误差，即使在最坏情况网络下，算法仍保证良好的效率。
PDF3 years ago
来自反事实解释的模型提取
本文介绍了后验方法中计数事实解释作为黑盒机器学习模型的后解释技术中越来越受欢迎的方法，但使用该方法泄露了与模型相关的信息，攻击者可以建立一个忠实副本。通过在真实世界数据集上进行评估，我们证明了该攻击可以在低查询预算下实现高保真度和高准确度的
PDF4 years ago
Hermes 攻击：利用无损推断准确率窃取深度神经网络模型
本文提出了一种名为 Hermes Attack 的新型模型提取攻击，该攻击利用未加密的 PCIe 数据流泄漏全部目标 Deep Neural Networks 模型。通过巨大的逆向工程、可靠的语义重构以及熟练的数据包选择和顺序修正，我们的方
PDF4 years ago
量子纠缠数字水印抵御模型抽取攻击
本文提出一种名为 EWE 的恒定水印嵌入技术，该技术将水印紧密嵌入到训练任务中，促使模型同时学习正常输入和此类水印，并在测试时表现优异，可实现在 100 次以下查询成功地断言模型属于自己。
PDF4 years ago
通过预测 API 窃取机器学习模型
本研究探究了机器学习模型机密性和公共访问之间的紧张关系，针对在线服务（如 BigML 和 Amazon Machine Learning）中的普通模型类，研究了一些简单有效的攻击方法和相应的反攻击策略。
PDF8 years ago