AAAIAug, 2022

MOVE: 嵌入式外部特征的有效且无害的所有权验证

PDF
TL;DR该研究提出了一种有效的且不会引入安全风险的模型所有权验证（MOVE）方法，使用元分类器来确定一种模型是否被盗，并使用渐变样式转移来嵌入外部特征，以便在白盒和黑盒设置下提供综合的模型保护。
deep neural networksmodel stealingmodel ownership verificationmeta-classifieradaptive attacks
发现论文，激发创造
  • 通过验证嵌入的外部特征防御模型窃取

    本文从外部特征的角度出发，通过渗透几个经过风格转换的训练样本嵌入外部特征，训练元分类器验证一个可疑模型是否包含被攻击者指定的外部特征知识，实验结果表明我们的方法可以有效地同时检测不同类型的模型窃取，即使窃取的模型是通过多阶段窃取过程获得的。

    Dec, 2021

  • 基于后门水印技术的数据集保护中的黑匣子所有权验证

    本文基于深度学习和神经网络的高效和有效性，提出了一种基于后门水印的数据集保护模式，其中数据集水印包括数据集水印和数据集验证，实验证明了该方法的有效性。

    Aug, 2022

  • 针对深度神经网络水印技术的攻击：以逃避攻击为例

    本研究关注深度神经网络的水印方案的稳健性和可靠性，发现恶意对手即使在水印难以删除的情况下，仍然可以逃避合法所有者的验证，从而避免了模型被盗的可能性。

    Sep, 2018

  • 重新思考深度神经网络所有权验证：嵌入护照以打败模糊攻击

    本文提出了一种新的基于护照的深度神经网络所有权验证方案，利用护照设计和训练深度神经网络模型，以使正版护照被伪造后会对其推理性能产生严重恶化，该方案既能抵御网络修改又能避免歧义攻击。

    Sep, 2019

  • 一个基于盲水印的框架来保护 DNN 知识产权：如何证明你的模型属于你

    本研究提出了一种基于盲水印的知识产权保护（IPP）框架，通过将特定标签赋予普通样本并将其与独占标志组合生成水印来保护深度神经网络模型的知识产权，并成功验证了其安全性、可行性和鲁棒性，与创建者身份建立了明确的联系，有效应对了逃避攻击和恶意主张的问题。

    Mar, 2019

  • 关于模型所有权的虚假指控解决

    本文介绍了一种新方法，能够使恶意主张人成功地向独立被怀疑的模型提出假陈述，该方法利用了深度神经网络的漏洞以及对于实现有效 MOR 的属性的不足。

    Apr, 2023

  • 使用嵌入进行图神经网络的所有权验证

    介绍了用于防止模型抽取攻击的 GNN 模型指纹方案 GrOVe，它可以可靠地确定嫌疑模型是否是独立训练得到的，即使它使用与目标模型相同的训练数据集和架构。

    Apr, 2023

  • 朝着可扩展和鲁棒的模型版本控制

    研究了在不获取新的训练数据或更改模型架构的情况下生成具有不同攻击属性的模型的可行性，通过将参数化的隐藏分布纳入模型训练数据，强迫模型学习任务无关的特征，从而设计和实现了一种用于 DNN 分类器的实用模型版本控制方法，提高了鲁棒性。

    Jan, 2024

  • 提升模型鲁棒性：减少参数弱点的水印

    深度神经网络的水印技术存在被移除的漏洞，本文通过研究参数空间，提出了一种寻找并恢复水印行为的强化模型水印技术，实验证明该方法提高了模型水印技术对参数变化和多种移除攻击的鲁棒性。

    Sep, 2023

  • 卷积神经网络模型窃取攻击的高效防御

    通过引入一种启发式方法来扰动输出概率，我们提出了一种简单而有效的防御措施，可轻松集成到模型中，不需要额外的训练，并且对模型性能影响小，在防御三种最先进的盗窃攻击方面表现出色，对于针对边缘设备的量化卷积神经网络同样有效。

    Sep, 2023