Aug, 2023

水银：一种用于 Nvidia 深度学习加速器的自动化远程侧信道攻击

PDF
TL;DRMercury 是首个对现成的 Nvidia DNN 加速器进行自动远程侧信道攻击的系统，通过将侧信道提取过程建模为序列到序列问题，利用时间到数字转换器（TDC）远程收集目标模型推理的功耗迹线，然后使用学习模型从功耗迹线中自动恢复受害模型的架构细节，进而使用注意力机制定位对攻击贡献最大的泄漏点，评估结果表明 Mercury 能够将模型提取的错误率保持在 1% 以下。
dnn acceleratorsmodel extraction attacksside-channel informationmercuryremote side-channel attack
发现论文，激发创造
  • 卷积神经网络加速器能量侧信道攻击

    本论文提出了一种基于功率侧信道的攻击方法，在不了解神经网络的详细参数的情况下，能够从收集到的功率跟踪中恢复输入图像。在 MNIST 数据集上，我们的攻击能够实现最高 89% 的识别准确率。

    Mar, 2018

  • 通过时间侧信道窃取神经网络

    本文提出利用时间侧信道攻击来推断神经网络模型深度的黑盒神经网络提取攻击，使用知识蒸馏和强化学习，有效减少了搜索空间，可以构造出与目标模型测试精度接近的替代模型，且该方法可扩展，并与神经网络结构类型无关。

    Dec, 2018

  • CSI 神经网络：使用侧信道恢复你的人工神经网络信息

    该研究利用非侵入式的侧信道信息，针对多层感知器神经网络，研究了如何逆向工程并获取该网络的构架及权重， 并展示了恢复输入所需的可行性和应对该攻击的几种缓解方法。

    Oct, 2018

  • 研究 AES 侧信道攻击的高效深度学习架构

    近年来，深度学习在嵌入式加密应用的侧信道漏洞利用方面越来越受欢迎，因为它可以减少有效密钥恢复所需的攻击轨迹数量。本研究基于 ANSSI 侧信道攻击数据库（ASCAD），采用基于 JAX 的深度学习框架，重现了以前的一些结果并试图改进性能，并研究了各种基于 Transformer 的模型的有效性。

    Sep, 2023

  • Hermes 攻击：利用无损推断准确率窃取深度神经网络模型

    本文提出了一种名为 Hermes Attack 的新型模型提取攻击，该攻击利用未加密的 PCIe 数据流泄漏全部目标 Deep Neural Networks 模型。通过巨大的逆向工程、可靠的语义重构以及熟练的数据包选择和顺序修正，我们的方案能够高效地和完全地重构所有 Deep Neural Networks 模型，并且具有完全相同的推理准确性。

    Jun, 2020

  • PowerGAN: 基于机器学习的针对计算内存加速器的电源侧信道攻击

    本文研究了基于模拟电路的形式的计算方法 ——analog compute-in-memory (CIM)，分析了针对 CIM 的深度神经网络 (DNN) 推断过程中，用户输入数据被攻击者利用功率侧信道攻击进行的隐私泄露风险及利用生成式对抗网络这一方法进行的攻击重构方法。本研究结果表明即使在被预处理和加噪声处理的情况下，攻击方法都可以有效地重建用户的输入数据，并通过大量实验进行了证明，在 MRI 医学图像的脑肿瘤检测中的应用有效。

    Apr, 2023

  • 存在缓存侧信道攻击时，深度神经网络的安全分析

    本文首次深入探讨利用缓存侧信道攻击的 DNN 指纹攻击的安全性分析，介绍了攻击工具 DeepRecon 以及元模型的构建，同时提出框架级别的防御技术来混淆攻击者的观察。

    Oct, 2018

  • 内鬼之恶：硬件特洛伊通过机器学习的后门

    本文提出一种全新的硬件加速器中的后门攻击方式，并设计了一个可配置的硬件木马，其中搭载了一个最小化的后门，使得攻击者只需要对少量参数进行更改就可以对深度学习模型做出改变，从而在保证运行效率的同时完全避开了目前防御机制。通过将木马植入 Vitis AI DPU 进行实验，作者成功 ic 证明了这种攻击的可行性与危险性，同时指出了目前硬件加速器中的深度学习模型存在的漏洞和安全问题，为以后的研究和应用提供了重要参考。

    Apr, 2023

  • 副通道攻击破坏嵌入式人工智能的黑箱特性

    通过利用边信道攻击以提取 logits，我们提出了一种架构无关的黑盒攻击方法用于生成具有欺骗性的对抗样本，以证明边信道攻击在攻击神经网络时的有效性。

    Nov, 2023

  • 基于数据流推理加速器的侧信道分析揭示 CNN 体系结构

    通过利用卷积神经网络模型结构的空间和时间数据复用，以及架构提示信息，提出一种利用存储器侧通道信息来恢复数据流加速器中卷积神经网络模型结构的攻击方法。实验结果表明，该侧通道攻击可以恢复流行的卷积神经网络模型 Lenet、Alexnet 和 VGGnet16 的结构。

    Nov, 2023