Jan, 2024

MEA-Defender：一种抵御模型提取攻击的鲁棒水印方案

PDF
TL;DR本文中，我们提出了一种名为 MEA-Defender 的新型水印方法，用于保护深度神经网络模型的知识产权免受模型提取攻击的侵害，并经过实验证明 MEA-Defender 在多种不同的模型提取攻击和水印去除 / 检测方法下表现得极为稳健。
deep neural networksbackdoor-based watermarksmodel extraction attacksmea-defenderip protection
发现论文，激发创造
  • 量子纠缠数字水印抵御模型抽取攻击

    本文提出一种名为 EWE 的恒定水印嵌入技术，该技术将水印紧密嵌入到训练任务中，促使模型同时学习正常输入和此类水印，并在测试时表现优异，可实现在 100 次以下查询成功地断言模型属于自己。

    Feb, 2020

  • DAWN: 动态对抗性神经网络水印

    本文提出了一种名为 DAWN 的动态对抗水印方法，它通过在受保护的机器学习模型的预测 API 中动态地更改一小部分查询的响应生成水印，以遏制模型抽取知识产权盗窃，并对两种最新的模型抽取攻击具有鲁棒性。

    Jun, 2019

  • 针对深度神经网络水印技术的攻击：以逃避攻击为例

    本研究关注深度神经网络的水印方案的稳健性和可靠性，发现恶意对手即使在水印难以删除的情况下，仍然可以逃避合法所有者的验证，从而避免了模型被盗的可能性。

    Sep, 2018

  • 图像处理网络的模型水印技术

    基于空间隐形水印技术，提出了一种图像处理模型的水印框架，防止模型权益被侵犯。实验证明，该水印技术可抵抗不同网络结构和目标函数训练出的替代模型。

    Feb, 2020

  • 可靠的模型数字水印技术：在保持逃避性能的同时防御盗窃

    利用扩散模型为防止未授权模型分发而合成无限制对抗样本作为触发器集合，通过知识注入而非错误记忆来促进独特的水印行为，并通过优化受保护模型的知识传递属性，无需过于猛烈的决策边界扰动即可将水印行为传递给提取替代物，从而提高对于逃避对手和水印清除攻击的鲁棒性。

    Apr, 2024

  • 一个基于盲水印的框架来保护 DNN 知识产权：如何证明你的模型属于你

    本研究提出了一种基于盲水印的知识产权保护（IPP）框架，通过将特定标签赋予普通样本并将其与独占标志组合生成水印来保护深度神经网络模型的知识产权，并成功验证了其安全性、可行性和鲁棒性，与创建者身份建立了明确的联系，有效应对了逃避攻击和恶意主张的问题。

    Mar, 2019

  • ROSE: 一种强健和安全的 DNN 水印技术

    该研究提出了一种轻量级、强健、安全的黑盒 DNN 数字水印协议，在训练期间注入任务特定的键图像 - 标签对，并证明该模型的所有权，从而提供保护同时保持适当的安全性和强健性。

    Jun, 2022

  • 探究深层水印安全性：对抗性迁移角度

    利用生成性神经网络和深度水印技术对生成内容进行了知识产权保护研究，通过引入可转移攻击来评估深度水印的脆弱性，发现通过针对目标类的高样本密度区域进行样本干扰有助于提高有针对性的攻击转移率，在模型的输出一致性上定义了局部样本密度的概念，并引入了容易样本选择机制和容易样本匹配攻击方法，同时还提出了信息瓶颈理论集成的瓶颈增强混合方法，通过实验证明了针对转移攻击的成功率在提高。

    Feb, 2024

  • 强化防御：提升对抗训练与数字水印技术的模型韧性

    该研究提出了一种新的框架，将对抗训练与水印技术相结合，以增强鲁棒性，抵御逃避攻击，并在知识产权盗窃情况下提供可信的模型验证。

    Dec, 2023

  • MEAOD：针对目标检测器的模型提取攻击

    对目标检测模型进行基于查询的模型提取攻击的挑战和可行性进行研究，提出了一种名为 MEAOD 的有效攻击方法，通过主动学习从攻击者拥有的数据集中选择样本构建高效的查询数据集，并通过更新查询数据集的标注来提高提取效果，在 10k 查询预算下，达到超过 70% 的提取性能。

    Dec, 2023