Apr, 2023

利用逻辑锁定对机器学习加速器进行神经特洛伊攻击

PDF
TL;DR该研究探讨了利用逻辑锁定技术在保护神经加速器的情况下破坏其安全性的可能性，通过理论上强健的攻击方法自动鉴定特洛伊键并找到了能够导致 74% 准确度下降的特洛伊键
logic lockingneural acceleratorssecuritybackdoorstrojan keys
发现论文，激发创造
  • 内鬼之恶：硬件特洛伊通过机器学习的后门

    本文提出一种全新的硬件加速器中的后门攻击方式，并设计了一个可配置的硬件木马，其中搭载了一个最小化的后门，使得攻击者只需要对少量参数进行更改就可以对深度学习模型做出改变，从而在保证运行效率的同时完全避开了目前防御机制。通过将木马植入 Vitis AI DPU 进行实验，作者成功 ic 证明了这种攻击的可行性与危险性，同时指出了目前硬件加速器中的深度学习模型存在的漏洞和安全问题，为以后的研究和应用提供了重要参考。

    Apr, 2023

  • TroLLoc：IC 安全闭环中的逻辑锁定和布局硬化对抗硬件木马

    本工作提出了一种新颖的集成电路（IC）安全闭环方案 TroLLoc，通过同时使用逻辑锁定和布局加固，有效、高效和稳健地保护 IC 的物理布局免受后期插入的特洛伊木马的威胁。

    May, 2024

  • 将机器学习模型锁定到硬件中

    通过限制模型在特定硬件上的使用，防止未经授权的模型使用，本文研究了机器学习特定机制的可行性，展示了锁定机制的可行性，并证明锁定具有可忽略的工作和延迟开销，同时显著限制了在未授权硬件上使用模型的可行性。

    May, 2024

  • 邻居来自地狱：针对多租户 FPGAs 上深度学习加速器的电压攻击

    本文评估 DL 加速器在多租户 FPGA 场景下对基于电压的完整性攻击的安全性，并发现时序攻击并不能影响 DL 加速器的预测准确度，同时过时钟提速可以提高推断性能。

    Dec, 2020

  • Deep-Lock：深度神经网络安全授权

    本文提出了一种利用 S - 盒进行加密的轻量级密钥锁定方案 Deep-Lock，该方案可防止深度神经网络（DNN）模型的未授权使用和知识产权盗窃，并且不需要对 DNN 模型的结构和训练进行调整，具有较强的保密性和抗篡改能力。

    Aug, 2020

  • 深度神经网络的活体木马攻击

    通过在内存中修补模型参数，攻击者可以实现对深度学习系统的实时攻击，并演示了如何在 Windows 和 Linux 中修补 TensorFlow 模型参数以及有效地操作被扰动的输入数据的熵以绕过 STRIP 的新技术

    Apr, 2020

  • 可学习性锁：通过对抗可逆转换的授权学习控制

    本研究提出了一种名为 “可学习性锁” 的新概念来控制模型在使用特定密钥的训练集时的可学习性，并提出了基于类的扰动方法来防止数据样本被机器学习模型使用，从而提高数据隐私保护。

    Feb, 2022

  • 用于打破深度学习后门攻击防御的特洛伊木马训练

    本研究论文介绍了一种新的多目标后门攻击，使用非后门模型作为教师模型解决最小最大优化问题提升攻击模型的性能，不能有效防御后门模型的特定输出的防御机制准确性将降至 0％。

    Mar, 2022

  • 通过对抗电源迹线的逃避式硬件木马

    本文研究硬件安全背景下的机器学习漏洞，主要聚焦在硬件木马、机器学习和侧信道分析，通过设计对抗噪声的方法来绕过机器学习侧信道分析，并提供开放的资源和设计。

    Jan, 2024

  • 后门激活攻击：使用激活引导实施对大型语言模型的攻击以达到安全对齐

    通过向大型语言模型注入木马激活向量，我们提出了一种名为后门激活攻击的新型攻击框架，使得模型在推理时可以被激活并朝着攻击者所期望的行为方向进行操纵，该方法在主要的对齐任务上表现出高度的有效性，并且几乎不会给攻击效率增加任何开销，同时讨论了对抗此类激活攻击的潜在对策。

    Nov, 2023