Aug, 2020

使用机密秘钥训练 DNN 模型进行模型保护

PDF
TL;DR本文提出了一种使用分块像素置换和秘密密钥作为预处理技术来保护模型的方法，实验结果表明，当密钥正确时，保护模型的性能接近于非受保护模型，而当给出错误的密钥时，准确度会严重下降，但所提出的模型保护在不仅抵御暴力攻击和微调攻击方面具有鲁棒性，同时还保持几乎与使用非受保护模型相同的性能精度。
model protectionpixel shufflingsecret keybrute-force attacksfine-tuning attacks
发现论文，激发创造
  • 具有秘密密钥的分块图像转换用于对抗性鲁棒防御

    本文提出了一种新的防御方法，通过像素重排、位反转和 FFX 加密三种算法对输入图像进行块状预处理，使用该方法在 CIFAR-10 和 ImageNet 数据集中的黑盒和白盒攻击实验中均能保持较高分类准确性，是当前已知的对抗防御技术中最优秀的。

    Oct, 2020

  • Deep-Lock：深度神经网络安全授权

    本文提出了一种利用 S - 盒进行加密的轻量级密钥锁定方案 Deep-Lock，该方案可防止深度神经网络（DNN）模型的未授权使用和知识产权盗窃，并且不需要对 DNN 模型的结构和训练进行调整，具有较强的保密性和抗篡改能力。

    Aug, 2020

  • 考虑加密域中数据增强的基于像素图像加密的隐私保护深度神经网络

    本研究提出了一种新的隐私保护深度神经网络方案，既能够在训练和测试中将缺乏视觉信息的图像应用于 DNNs，也能够首次在加密域中考虑数据增强，该方法采用了一种新的基于像素的图像加密方法，同时提出了一种适应性网络以降低图像加密的影响，并对知名的 ResNet-18 网络应用该方法进行图像分类实验，结果表明，在加密域中进行数据增强的传统隐私保护机器学习方法包括现有最先进的方法都无法应用，而所提出的方法在分类精度方面表现卓越。

    May, 2019

  • 只有我的模型与我的数据：一种保护模型并欺骗未经授权的黑盒模型的隐私保护方法

    通过生成可被人类感知的图像，本研究在保护模型准确推断的同时，回避其他类似或不同目标的非授权黑盒模型，以实现实际的隐私保护。

    Feb, 2024

  • 基于像素的加密方法用于隐私保护深度学习模型

    本文提出了一种有效的基于像素的感知加密方法，采用混沌映射生成的序列对像素值进行异或运算。已验证该方法在保持原始图像固有属性的同时提供了必要的安全性，且应用于数据集 CIFAR 上时，其分类精度与现有方法相当，同时提高了安全性。

    Mar, 2022

  • 一种含密钥的语义分割模型访问控制方法

    本文提出了一种使用秘密密钥进行访问控制的新方法，旨在保护具有 Vision Transformer (即分割 Transformer) 的语义分割模型免受未经授权的访问。通过使用 ViT 所具有的 patch embedding 结构，训练模型和测试图像可以使用密钥进行有效加密，然后在加密域中执行语义分割任务。在实验中，该方法被证实在授权用户使用正确密钥的情况下提供与使用未加密的纯图像相同的准确性，并向未经授权的用户提供极度降低的准确性。

    Aug, 2022

  • 使用预训练模型的高效基于关键字的对抗性防御方法在 ImageNet 上的应用

    通过利用预训练模型和最新的高效微调技术，在 ImageNet-1k 分类上提出了基于关键字的防御模型繁衍方法，并强调了在边缘设备上部署基于关键字的模型的可行性。

    Nov, 2023

  • ROSE: 一种强健和安全的 DNN 水印技术

    该研究提出了一种轻量级、强健、安全的黑盒 DNN 数字水印协议，在训练期间注入任务特定的键图像 - 标签对，并证明该模型的所有权，从而提供保护同时保持适当的安全性和强健性。

    Jun, 2022

  • 区块洗牌学习用于 Deepfake 检测

    本文提出了一种基于块打乱学习的深度伪造检测方法，通过巧妙引入块内外的随机重排，增强了检测器的鲁棒性及语义连结建模能力，结合 CNN 模型实现面部伪造检测，在通用性与鲁棒性的表现方面都获得了良好的效果。

    Feb, 2022

  • 无法察觉的人类图像，可被机器识别

    本文提出了一种有效的隐私保护学习范式，通过对图像进行加密以实现人类不可察觉机器可识别，将这一方法应用于图像分类和目标检测，在 ImageNet 和 COCO 数据集上实验结果表明，这种方法可以实现与现有方法相当的准确性且能够确保加密图像的隐私安全。

    Jun, 2023