神经网络的概率鲁棒性水印技术

Jan, 2024

Probabilistically Robust Watermarking of Neural Networks

Mikhail Pautov, Nikita Bogdanov, Stanislav Pyatkin, Oleg Rogov, Ivan Oseledets

TL;DR我们介绍了一种新颖的基于触发集的水印技术，该方法对功能盗取攻击表现出强韧性，特别是涉及提取和精炼的攻击。我们的方法不需要额外的模型训练，并且可以应用于任何模型架构。通过计算可在源模型和代理模型集之间传输的触发集，我们展示了如果集合可传输的概率相当高，它可以有效用于盗取模型的所有权验证。我们在多个基准测试上评估了我们的方法，并展示了在所有考虑的实验设置中，我们的方法优于当前最先进的水印技术。

Abstract

As deep learning (DL) models are widely and effectively used in Machine Learning as a Service (MLaaS) platforms, there is a rapidly growing interest in dl watermarking techniques that can be used to confirm the o

deep learning dl watermarking techniques functionality stealing attacks trigger set-based watermarking approach ownership verification

发现论文，激发创造

可靠的模型数字水印技术：在保持逃避性能的同时防御盗窃

利用扩散模型为防止未授权模型分发而合成无限制对抗样本作为触发器集合，通过知识注入而非错误记忆来促进独特的水印行为，并通过优化受保护模型的知识传递属性，无需过于猛烈的决策边界扰动即可将水印行为传递给提取替代物，从而提高对于逃避对手和水印清除攻击的鲁棒性。

Apr, 2024

不只改变标签，学习特征：使用多视角数据为深度神经网络添加水印

使用多视图数据构建触发器集，并基于特征学习的角度引入了一种新的神经网络水印技术，名为 MAT，以有效地防御功能窃取攻击，并在各种基准测试中验证了其有效性，超过相关基线模型。

Mar, 2024

深度神经网络的数字水印技术

本文提出了一种深度神经网络数字水印技术，可用于深度神经网络的所有权授权。我们定义了嵌入深度神经网络数字水印的要求、嵌入情况和攻击类型，并提出了一种嵌入参数规则器的通用框架，最后通过实验证明我们的框架可以在深度神经网络的训练中嵌入数字水印，并在精调和参数修剪后保留所有权编码。

Feb, 2018

针对深度神经网络水印技术的攻击：以逃避攻击为例

本研究关注深度神经网络的水印方案的稳健性和可靠性，发现恶意对手即使在水印难以删除的情况下，仍然可以逃避合法所有者的验证，从而避免了模型被盗的可能性。

Sep, 2018

利用指数加权的神经网络鲁棒性水印

本研究提出了一种新的数字水印方法（指数加权法），以解决神经网络模型在预测性能不受影响的情况下，在未经授权的服务提供商（如模型修改和查询修改）的恶意企图下高效验证水印。

Jan, 2019

关于基于后门的深度神经网络数字水印的鲁棒性

本论文研究了深度神经网络的数字水印技术并提出了黑盒和白盒的攻击方法，证明了该水印方案的不安全性，并指出需要一些其他技术来保护免受攻击。

Jun, 2019

将弱点转化为优势：通过后门方式对深度神经网络加入水印

该研究提出了一种黑匣子形式的深度神经网络水印方案，该方案适用于一般的分类任务，并可以轻松与当前的学习算法相结合。研究表明，这样的水印对于模型的主要任务没有明显的影响，并且评估了该提议的鲁棒性，以抵御广泛的实际攻击。

Feb, 2018

图像处理网络的模型水印技术

基于空间隐形水印技术，提出了一种图像处理模型的水印框架，防止模型权益被侵犯。实验证明，该水印技术可抵抗不同网络结构和目标函数训练出的替代模型。

Feb, 2020

一个基于盲水印的框架来保护 DNN 知识产权：如何证明你的模型属于你

本研究提出了一种基于盲水印的知识产权保护（IPP）框架，通过将特定标签赋予普通样本并将其与独占标志组合生成水印来保护深度神经网络模型的知识产权，并成功验证了其安全性、可行性和鲁棒性，与创建者身份建立了明确的联系，有效应对了逃避攻击和恶意主张的问题。

Mar, 2019

DAWN: 动态对抗性神经网络水印

本文提出了一种名为 DAWN 的动态对抗水印方法，它通过在受保护的机器学习模型的预测 API 中动态地更改一小部分查询的响应生成水印，以遏制模型抽取知识产权盗窃，并对两种最新的模型抽取攻击具有鲁棒性。

Jun, 2019