DAWN: 动态对抗性神经网络水印

Jun, 2019

DAWN: Dynamic Adversarial Watermarking of Neural Networks

Sebastian Szyller, Buse Gul Atli, Samuel Marchal, N. Asokan

TL;DR本文提出了一种名为 DAWN 的动态对抗水印方法，它通过在受保护的机器学习模型的预测 API 中动态地更改一小部分查询的响应生成水印，以遏制模型抽取知识产权盗窃，并对两种最新的模型抽取攻击具有鲁棒性。

Abstract

Training machine learning (ML) models is expensive in terms of computational power, amounts of labeled data and human expertise. Thus, ML models constitute intellectual property (IP) and business value for their

machine learning intellectual property digital watermarks model extraction dawn

发现论文，激发创造

针对深度神经网络水印技术的攻击：以逃避攻击为例

本研究关注深度神经网络的水印方案的稳健性和可靠性，发现恶意对手即使在水印难以删除的情况下，仍然可以逃避合法所有者的验证，从而避免了模型被盗的可能性。

Sep, 2018

深度神经网络的数字水印技术

本文提出了一种深度神经网络数字水印技术，可用于深度神经网络的所有权授权。我们定义了嵌入深度神经网络数字水印的要求、嵌入情况和攻击类型，并提出了一种嵌入参数规则器的通用框架，最后通过实验证明我们的框架可以在深度神经网络的训练中嵌入数字水印，并在精调和参数修剪后保留所有权编码。

Feb, 2018

利用指数加权的神经网络鲁棒性水印

本研究提出了一种新的数字水印方法（指数加权法），以解决神经网络模型在预测性能不受影响的情况下，在未经授权的服务提供商（如模型修改和查询修改）的恶意企图下高效验证水印。

Jan, 2019

深度神经网络抗盗版水印

本研究介绍了一种旨在提高深度神经网络（DNN）中数字水印鲸吞强度的方法，该方法称为空嵌入（null embedding），通过对模型进行初始训练，我们建立了模型分类精确度与水印之间的强关系，使攻击者无法通过调整或增量训练来移除嵌入式数字水印，并且可以避免第三方嵌入 “盗版数字水印” 以索取模型所有权的情况。

Oct, 2019

图像处理网络的模型水印技术

基于空间隐形水印技术，提出了一种图像处理模型的水印框架，防止模型权益被侵犯。实验证明，该水印技术可抵抗不同网络结构和目标函数训练出的替代模型。

Feb, 2020

神经网络的概率鲁棒性水印技术

我们介绍了一种新颖的基于触发集的水印技术，该方法对功能盗取攻击表现出强韧性，特别是涉及提取和精炼的攻击。我们的方法不需要额外的模型训练，并且可以应用于任何模型架构。通过计算可在源模型和代理模型集之间传输的触发集，我们展示了如果集合可传输的概率相当高，它可以有效用于盗取模型的所有权验证。我们在多个基准测试上评估了我们的方法，并展示了在所有考虑的实验设置中，我们的方法优于当前最先进的水印技术。

Jan, 2024

深度神经网络的功能耦合水印

本文提出了一种新颖的 DNN 数字水印技术以有效防御模型精调和模型修剪等攻击。

Feb, 2023

基于远程神经网络水印的对抗性边界拼接

研究深度学习模型的水印技术，提出了一种零比特水印算法使用反对抗模型样本进行标记，可在保护模型性能损失较小的情况下使用少量查询轻松提取水印，并应用于 MNIST 数字识别任务的三种神经网络中。

Nov, 2017

将弱点转化为优势：通过后门方式对深度神经网络加入水印

该研究提出了一种黑匣子形式的深度神经网络水印方案，该方案适用于一般的分类任务，并可以轻松与当前的学习算法相结合。研究表明，这样的水印对于模型的主要任务没有明显的影响，并且评估了该提议的鲁棒性，以抵御广泛的实际攻击。

Feb, 2018

强化防御：提升对抗训练与数字水印技术的模型韧性

该研究提出了一种新的框架，将对抗训练与水印技术相结合，以增强鲁棒性，抵御逃避攻击，并在知识产权盗窃情况下提供可信的模型验证。

Dec, 2023