machine learning as a service | BriefGPT

关键词machine learning as a service

搜索结果 - 12

可靠的模型数字水印技术：在保持逃避性能的同时防御盗窃
利用扩散模型为防止未授权模型分发而合成无限制对抗样本作为触发器集合，通过知识注入而非错误记忆来促进独特的水印行为，并通过优化受保护模型的知识传递属性，无需过于猛烈的决策边界扰动即可将水印行为传递给提取替代物，从而提高对于逃避对手和水印清除攻
PDF2 months ago
不只改变标签，学习特征：使用多视角数据为深度神经网络添加水印
使用多视图数据构建触发器集，并基于特征学习的角度引入了一种新的神经网络水印技术，名为 MAT，以有效地防御功能窃取攻击，并在各种基准测试中验证了其有效性，超过相关基线模型。
PDF4 months ago
PuriDefense：随机本地隐式对抗净化来防御黑箱基于查询的攻击
传统的防御机制如对抗训练、梯度掩盖和输入转换要么会对计算成本造成巨大的影响，要么会损害非对抗性输入的测试精度。为了解决这些挑战，我们提出了一种高效的防御机制，PuriDefense，它在较低的推理成本下使用一组轻量级净化模型进行随机的补丁净
PDF5 months ago
GraphGuard：图神经网络中检测和对抗训练数据滥用
GraphGuard 是一个无需训练数据的方法，通过使用具有电离辐射特性的数据进行成员推断，提高成员和非成员数据分布的可区分性，从而在不依赖原始数据的情况下检测并通过有针对性的遗忘来减轻图数据滥用的影响。
PDF7 months ago
AAAI无数据强标签强韧性窃取攻击
这篇论文介绍了一种新的无数据硬标签鲁棒性窃取攻击方法，该方法通过查询目标模型的硬标签而无需任何自然数据，实现了对模型准确性和鲁棒性的窃取，实验证明其有效性。
PDF7 months ago
Bucks for Buckets (B4B): 针对盗用编码器的主动防御
Machine Learning as a Service (MLaaS) API 提供了成熟且高效的编码器，用于为给定的输入生成向量表示。本研究提出了一种主动防御方法 Bucks for Buckets (B4B)，在攻击发生时能够防止模
PDF9 months ago
VeriDIP: 通过隐私泄漏指纹验证深度神经网络的所有权
使用 VeriDIP 方法验证深度学习模型的知识产权，通过成员推断攻击估计隐私泄露下界并提高所有权验证性能。
PDF10 months ago
Mondrian: 大规模语言模型的提示抽象攻击与更低的 API 定价
我们在这篇论文中发现了一种新的攻击 LLM API 的策略，即提示抽象攻击。我们提出了 Mondrian，一种简单直接的方法，通过对句子进行抽象，从而降低了使用 LLM API 的成本。通过使用 Mondrian，我们成功地降低了用户查询的
PDFa year ago
通过联合设计激活函数进行深度神经网络的快速和私密推断
介绍了一种基于多方计算的机器学习服务（MLaaS）的方法，通过使用多项式逼近替换 ReLU 激活函数和采用单轮 MPC 协议进行评估，实现了在大型模型上快速准确的推理，从而保护客户数据隐私。
PDFa year ago
ICLR简单透明对抗样本
通过引入秘密嵌入和透明对抗性示例作为一种更简单的评估鲁棒性的方法，本文在实际部署的 Google Cloud Vision API 和 Microsoft Azure 的 Computer Vision API 等场景下评估其恶意攻击的成功
PDF3 years ago
通过可转移的对抗样本进行深度神经网络指纹识别
我们提出了一种基于指纹的深度神经网络分类器方法，用于检测机器学习服务中的模型盗窃攻击，该方法提取一组从源模型中提供的输入，只有代理模型能够在这些输入上与源模型一致地进行分类。
PDF5 years ago
Chiron：隐私保护机器学习即服务
Chiron 是一个基于 SGX 的系统，用于实现隐私保护的机器学习服务，通过使用 Ryoan 沙箱来限制服务提供商的无信任模型创建代码以防止其泄露训练数据来实现数据保密和模型保密。
PDF6 years ago