black-box access | BriefGPT

关键词black-box access

搜索结果 - 8

ICML参数是否透露了比损失函数更多的关于成员推断的信息？
成员推断攻击、披露审核、黑盒访问、白盒访问、成员隐私审核的研究。
PDF19 days ago
ICML隐蔽仿真：奖励引导的环境无关策略窃取
这篇论文介绍了一种名为 Stealthy Imitation 的攻击方法，旨在不接触环境或者获知输入范围的情况下窃取深度强化学习策略，并提出了一种降低攻击效果的对策。
PDF2 months ago
严格的人工智能审计需要黑盒访问不足
外部审计、人工智能系统、黑盒访问、白盒访问、外盒访问
PDF5 months ago
DeepMem：机器学习模型作为存储通道及其（误）应用
机器学习模型的超参数化能够支持广泛性和避免过拟合问题，同时也可以用于恶意目的和有益目的，本文考虑机器学习模型作为存储通道的信息论视角，并提出了一种基于超参数化数量的通道容量的上界，进一步探索黑盒写入和读取原语，以达到优化存储和提高容量的目的
PDFa year ago
图神经网络的黑盒属性推断攻击是否构成隐私风险？
本研究调查了对图结构数据及其相应的图神经网络模型的黑盒属性推理攻击是否构成重要的隐私风险，并发现当攻击者具有对目标模型的黑盒访问权限时，与缺失值估计技术相比，GNNs 通常不会显着透露更多信息。
PDFa year ago
分布推断解析
本文研究了分布推理攻击的影响，并开发了一种新的黑盒攻击模型，并评估了不同假设下的推理风险并提出了新的防御措施，发现抗噪防御似乎不起作用，但简单的重新取样防御可以高度有效。
PDF2 years ago
从图神经网络中窃取链接
本研究提出了针对图神经网络的链路窃取攻击，并介绍了三个维度的威胁模型以及八种链路窃取攻击方法。在八个真实数据集上的实验表明，攻击是有效的，并揭示了 GNN 模型输出关于训练图结构的丰富信息，证明了在黑盒条件下，一些私密数据可以被窃取。
PDF4 years ago
透视成员推断攻击
该论文通过对机器学习模型逐一评估，探究其在会员隐私方面存在的风险。研究表明，攻击模型的效果主要由数据驱动，受数据集的影响较大。在攻击过程中，抗攻击模型的选择和参与者的数量也是影响因素之一。最后，论文给出了相应的对策和缓解策略。
PDF6 years ago