Mar, 2024

WARDEN：多向背门数字水印用于嵌入式服务版权保护

PDF
TL;DREmbedding as a Service (EaaS) 是一个被广泛采用的解决方案，它提供了用于处理自然语言处理（NLP）中各种下游任务的特征提取功能。然而，之前的研究表明 EaaS 可能容易受到模型提取攻击的影响，为了缓解这一问题，可以通过向文本嵌入添加后门水印，并在发布后验证攻击模型。通过对最近的 EaaS 水印策略 EmbMarker 的分析，我们设计了一种新的 CSE（聚类、选择、淘汰）攻击，它可以去除后门水印并保持嵌入的高效性，表明之前的水印方法可以被攻破。针对这一新的威胁，我们提出了一个新的协议，通过整合多个可能的水印方向，使水印的去除更加困难。我们的防御方法 WARDEN 显著增加了水印的隐蔽性，并经实证表明对抗 CSE 攻击有效。
embedding as a serviceeaasmodel extraction attacksbackdoor watermarkscse attack
发现论文，激发创造
  • 保护 EaaS 中的大型语言模型版权 —— 通过后门水印技术

    本文提出了一种称为 EmbMarker 的嵌入式数字水印方法，可通过在包含触发词的文本嵌入背门等方式，有效地保护嵌入式服务模型的版权，同时减小对原始嵌入的影响，并经过了各种数据集的广泛实验验证。

    May, 2023

  • 为多模式嵌入服务创建水印视觉语言预训练模型

    我们提出了一种安全而强大的基于后门的嵌入水印方法，名为 VLPMarker，它利用嵌入正交转换来有效地将触发器注入到 VLPs 中，实现高质量版权验证并对模型性能产生最小影响。

    Nov, 2023

  • 量子纠缠数字水印抵御模型抽取攻击

    本文提出一种名为 EWE 的恒定水印嵌入技术，该技术将水印紧密嵌入到训练任务中，促使模型同时学习正常输入和此类水印，并在测试时表现优异，可实现在 100 次以下查询成功地断言模型属于自己。

    Feb, 2020

  • 有限数据下消除神经网络中基于后门的水印

    本文介绍了一种基于小样本数据的去水印方法，使用数据增强和特征空间中正常和扰动数据的分布对齐相结合，有效地去除深度模型中的水印，并不影响深度模型性能。

    Aug, 2020

  • 关于基于后门的深度神经网络数字水印的鲁棒性

    本论文研究了深度神经网络的数字水印技术并提出了黑盒和白盒的攻击方法，证明了该水印方案的不安全性，并指出需要一些其他技术来保护免受攻击。

    Jun, 2019

  • 水印技术特征归属的无害和多位模型所有权验证

    模型版权的关键问题是所有权验证和水印技术，目前的基于后期方法是通过检查是否具有特定属性来识别可疑的第三方模型是否被盗窃。本文提出了一种新的基于可解释人工智能的水印技术，通过嵌入特征归属的解释中的验证行为来解决现有方法的限制。

    May, 2024

  • 探究深层水印安全性：对抗性迁移角度

    利用生成性神经网络和深度水印技术对生成内容进行了知识产权保护研究，通过引入可转移攻击来评估深度水印的脆弱性，发现通过针对目标类的高样本密度区域进行样本干扰有助于提高有针对性的攻击转移率，在模型的输出一致性上定义了局部样本密度的概念，并引入了容易样本选择机制和容易样本匹配攻击方法，同时还提出了信息瓶颈理论集成的瓶颈增强混合方法，通过实验证明了针对转移攻击的成功率在提高。

    Feb, 2024

  • 可靠的模型数字水印技术：在保持逃避性能的同时防御盗窃

    利用扩散模型为防止未授权模型分发而合成无限制对抗样本作为触发器集合，通过知识注入而非错误记忆来促进独特的水印行为，并通过优化受保护模型的知识传递属性，无需过于猛烈的决策边界扰动即可将水印行为传递给提取替代物，从而提高对于逃避对手和水印清除攻击的鲁棒性。

    Apr, 2024

  • 神经网络清洗：从深度神经网络中移除黑匣子后门水印

    本文提出了一种神经网络 “洗涤” 算法，可以即使在对水印结构没有先前知识的情况下，从神经网络中移除黑盒后门水印，有效消除了现有防御和版权保护机制使用的水印，并证明现有的后门水印不足以达到其声称的要求。

    Apr, 2020

  • Spy-Watermark：强韧隐形数字水印用于后门攻击

    提出了一种名为 Spy-Watermark 的新型后门攻击方法，其中引入了一种可学习的图像潜在空间中嵌入的水印作为触发器，通过多个防崩溃操作进一步增强触发器对数据损坏的韧性，从而在面对数据崩溃和后门防御时仍然有效。在 CIFAR10、GTSRB 和 ImageNet 数据集上进行了大量实验，展示了 Spy-Watermark 在鲁棒性和隐秘性方面超过了十种最先进方法。

    Jan, 2024