针对深度神经网络水印技术的攻击：以逃避攻击为例

Sep, 2018

针对深度神经网络水印技术的攻击：以逃避攻击为例

Have You Stolen My Model? Evasion Attacks Against Deep Neural Network Watermarking Techniques

Dorjan Hitaj, Luigi V. Mancini

TL;DR本研究关注深度神经网络的水印方案的稳健性和可靠性，发现恶意对手即使在水印难以删除的情况下，仍然可以逃避合法所有者的验证，从而避免了模型被盗的可能性。

Abstract

Deep neural networks have had enormous impact on various domains of computer science, considerably outperforming previous state of the art machine learning techniques. To achieve this performance, neural networks need large quantities of data and huge computational resources, which heavily increases their construction costs. The increased cost of building a

deep neural network watermarking copyright robustness model theft

发现论文，激发创造

将弱点转化为优势：通过后门方式对深度神经网络加入水印

该研究提出了一种黑匣子形式的深度神经网络水印方案，该方案适用于一般的分类任务，并可以轻松与当前的学习算法相结合。研究表明，这样的水印对于模型的主要任务没有明显的影响，并且评估了该提议的鲁棒性，以抵御广泛的实际攻击。

Feb, 2018

图像处理网络的模型水印技术

基于空间隐形水印技术，提出了一种图像处理模型的水印框架，防止模型权益被侵犯。实验证明，该水印技术可抵抗不同网络结构和目标函数训练出的替代模型。

Feb, 2020

深度神经网络的数字水印技术

本文提出了一种深度神经网络数字水印技术，可用于深度神经网络的所有权授权。我们定义了嵌入深度神经网络数字水印的要求、嵌入情况和攻击类型，并提出了一种嵌入参数规则器的通用框架，最后通过实验证明我们的框架可以在深度神经网络的训练中嵌入数字水印，并在精调和参数修剪后保留所有权编码。

Feb, 2018

利用指数加权的神经网络鲁棒性水印

本研究提出了一种新的数字水印方法（指数加权法），以解决神经网络模型在预测性能不受影响的情况下，在未经授权的服务提供商（如模型修改和查询修改）的恶意企图下高效验证水印。

Jan, 2019

神经网络清洗：从深度神经网络中移除黑匣子后门水印

本文提出了一种神经网络 “洗涤” 算法，可以即使在对水印结构没有先前知识的情况下，从神经网络中移除黑盒后门水印，有效消除了现有防御和版权保护机制使用的水印，并证明现有的后门水印不足以达到其声称的要求。

Apr, 2020

深度神经网络抗盗版水印

本研究介绍了一种旨在提高深度神经网络（DNN）中数字水印鲸吞强度的方法，该方法称为空嵌入（null embedding），通过对模型进行初始训练，我们建立了模型分类精确度与水印之间的强关系，使攻击者无法通过调整或增量训练来移除嵌入式数字水印，并且可以避免第三方嵌入 “盗版数字水印” 以索取模型所有权的情况。

Oct, 2019

嵌入数字水印于深度神经网络

本研究提出了一种新的数字水印技术，并设计了一个通用框架，将数字水印嵌入深度神经网络中的参数中，用于保护知识产权或检测知识产权侵权，同时不影响深度神经网络的性能。

Jan, 2017

一个基于盲水印的框架来保护 DNN 知识产权：如何证明你的模型属于你

本研究提出了一种基于盲水印的知识产权保护（IPP）框架，通过将特定标签赋予普通样本并将其与独占标志组合生成水印来保护深度神经网络模型的知识产权，并成功验证了其安全性、可行性和鲁棒性，与创建者身份建立了明确的联系，有效应对了逃避攻击和恶意主张的问题。

Mar, 2019

可靠的模型数字水印技术：在保持逃避性能的同时防御盗窃

利用扩散模型为防止未授权模型分发而合成无限制对抗样本作为触发器集合，通过知识注入而非错误记忆来促进独特的水印行为，并通过优化受保护模型的知识传递属性，无需过于猛烈的决策边界扰动即可将水印行为传递给提取替代物，从而提高对于逃避对手和水印清除攻击的鲁棒性。

Apr, 2024

反神经元水印：保护个人数据免受未经授权的神经网络侵害

本文介绍一种通过水印技术保护用户数据（图像）在神经网络训练中的未经授权使用的方法，重点阐述了在深度学习环境中，如何通过专业线性颜色变换，将水印印记到神经网络分类器中，以便第三方仲裁者可以验证用户数据是否被未经授权地使用，进而保护用户数据的所有权。

Sep, 2021