Jun, 2022

Matryoshka：通过在模型中隐藏模型来窃取私有机器学习数据的功能

PDF
TL;DR本文介绍一种新颖的内部攻击方法，称为 Matryoshka，利用一个计划发布的无关的 DNN 模型作为载体模型进行隐蔽传输，并采用了一种新颖的参数共享方法来实现信息隐藏，Matryoshka 可以隐藏一个 26 倍的较大秘密模型或 8 个不同应用领域的不同结构的秘密模型，而几乎所有恢复的模型性能都与在私有数据上独立训练的模型相似；该方法还具有高容量，解码效率高，有效性，鲁棒性，以及隐蔽性等特点。
insider attackmatryoshkainformation hidingdnn modelsteganography
发现论文，激发创造
  • 通过隐写和正则化对深度神经网络进行不可见的后门攻击

    该论文通过在深度神经网络中嵌入不可察觉的触发器，实现了一种无形的后门攻击，旨在欺骗模型产生意外行为，同时提出了两种评估指标，评估攻击成功率、功能性和不可见性，并证明此方法可以有效地防范目前最先进的后门检测方法，例如神经网络清理和 TABOR。

    Sep, 2019

  • 关于特定学习模型的隐写容量

    通过测试了包括 LR、SVM、MLP、CNN、LSTM、VGG16、DenseNet121、InceptionV3、Xception 和 ACGAN 等模型，研究确定了可替换学习模型参数中的低位数目，以及各模型的层的隐写容量，在大多数情况下，可替换大部分参数位数，并探讨了研究结果的含义和未来研究的可能方向。

    Aug, 2023

  • 深度网络隐写学：从网络到网络

    我们提出了一种基于深度网络的隐秘传输方法，使用渗透策略将秘密深度网络模型潜入一个伪装的普通学习任务中，并使用渗透策略激活干扰滤波器，以实现深度网络模型的隐蔽通信。

    Jul, 2023

  • 深度学习模型的隐写容量

    研究了机器学习和深度学习模型被用于隐写攻击情景，训练了多层感知器、卷积神经网络和 Transformer 模型进行恶意软件分类，发现模型的隐写容量惊人高，并存在阈值后性能急剧下降。

    Jun, 2023

  • Knockoff Nets: 模拟黑盒模型功能

    本文针对机器学习黑盒模型，提出了一种攻击方法，通过仅利用输入图像和输出的预测结果，而无需了解模型训练数据、结构或输出语义的情况下，来窃取其功能，并采用一种基于强化学习的方法，提高了查询样本的效率和性能。

    Dec, 2018

  • DeepMem：机器学习模型作为存储通道及其（误）应用

    机器学习模型的超参数化能够支持广泛性和避免过拟合问题，同时也可以用于恶意目的和有益目的，本文考虑机器学习模型作为存储通道的信息论视角，并提出了一种基于超参数化数量的通道容量的上界，进一步探索黑盒写入和读取原语，以达到优化存储和提高容量的目的，并引入涉及基线任务的数据增强约束来实现信息存储的隐蔽性，从而减小通道的有效容量，最后提出了基于机器学习特定的替代型纠错协议以提高容量。

    Jul, 2023

  • DeepObfuscation：通过知识蒸馏保护卷积神经网络结构

    论文提出了深度学习模型模糊化的方法，通过模拟卷积神经网络的特征提取器使攻击者无法盗用模型设计，并采用递归模拟方法和联合训练方法训练模拟网络。最终得到的模糊化模型不会损失精度，能有效地保护深度学习模型的关键结构免遭攻击。

    Jun, 2018

  • 窃取隐形：通过对抗样本和时间侧信道揭示预训练的卷积神经网络模型

    基于对对抗性图像分类模式的观察，我们提出一种用于盗取模型的方法，结合时间侧信道和对抗性图像分类，以指纹识别多个著名的卷积神经网络和 Vision Transformer 架构，该方法可在减少查询次数的同时保持高准确率。

    Feb, 2024

  • 深度概率模型中的图像隐藏

    使用深度概率模型，将秘密图像隐藏在某个空间中，生成随机噪声图来使秘密图像难以被检测，实现了多图像隐写和增强模型安全性。

    Oct, 2022

  • Hermes 攻击：利用无损推断准确率窃取深度神经网络模型

    本文提出了一种名为 Hermes Attack 的新型模型提取攻击，该攻击利用未加密的 PCIe 数据流泄漏全部目标 Deep Neural Networks 模型。通过巨大的逆向工程、可靠的语义重构以及熟练的数据包选择和顺序修正，我们的方案能够高效地和完全地重构所有 Deep Neural Networks 模型，并且具有完全相同的推理准确性。

    Jun, 2020