Aug, 2023

嵌入式神经网络的故障注入：单指令跳过的影响

PDF
TL;DR利用两种故障注入手段，在 Cortex M4 32 位微控制器平台上嵌入神经网络模型，评估了控制流修改攻击对典型卷积神经网络模型推理中的多个步骤的完整性威胁，从而揭示了可能被攻击者利用以不同对立目标改变目标模型预测的风险。
neural network modelssecurity assessmentembedded platformsfault injection meansinstruction skip
发现论文，激发创造
  • 嵌入式神经网络模型提取的故障注入和安全错误攻击

    模型提取是一种关键的安全威胁，它通过算法和基于实现的方法进行攻击，我们关注嵌入式深度神经网络模型及标准错误攻击策略以进行模型提取攻击，成功地恢复了至少 90% 最显著位，并仅使用 8% 的训练数据集训练出了与受害模型近乎相同精度的替代模型。

    Aug, 2023

  • 基于参数攻击的镭射注入嵌入式神经网络的评估

    本文介绍机器学习系统安全相关的认证行动，并探讨了模型参数攻击方面的挑战。同时，我们详细介绍了利用激光缺陷注入手段成功对 32 位 Cortex-M 微控制器进行 BFA 变异的安全测试，并阐述了如何使用模拟来选择最敏感的参数位集合以避免不切实际的暴力策略。

    Apr, 2023

  • 基于功耗的尖峰神经网络故障注入攻击分析

    该研究探讨使用全局故障注入攻击和外部电源以及激光光束的影响来破坏普通模拟神经元上孢发挥关键作用的参数。在针对数字分类任务时，最坏情况下可能导致分类准确性降低 85.65%，并提出了相应的防御策略和检测系统。

    Apr, 2022

  • SpikingJET：增强全连接和卷积脉冲神经网络的故障注入

    通过对关键组件施加错误和注入故障，本文介绍了一种专为全连接和卷积脉冲神经网络设计的新型故障注入器 SpikingJET。通过对各种脉冲神经网络架构进行广泛的软件级实验，该论文展示了 SpikingJET 的有效性，并揭示了脉冲神经网络对硬件故障的脆弱性和韧性，进一步凸显了脉冲神经网络的故障韧性对于提高神经网络驱动系统在不同领域中的可靠性和安全性所起到的重要作用。

    Mar, 2024

  • 一种微体系结构事件感知的实时嵌入式系统故障注入器

    本文介绍了一种用于监测、聚合和检查微架构事件的新型故障注入器，通过利用微处理器的 PMU 和调试接口，重点确保故障注入的重复性，与 SACRES 所需的关键时间可预测性之间建立了强大的相关性，从而实现对软错误的影响的全面分析。

    Jan, 2024

  • 故障偷袭：用于误导深度神经网络的隐蔽框架

    本研究提出了一种基于 ADMM 的故障潜入攻击框架，旨在通过最小化修改模型参数的同时维持模型准确性，从而实现将某些输入图像误分类为指定标签，具有多个潜入故障注入的能力。

    May, 2019

  • PyTorch 模型的大规模故障注入应用──PyTorchFI 的扩展以提高验证效率

    使用 PyTorchALFI 框架，引入了故障注入方法用于测试神经网络模型，包括定义测试场景、软件架构和分析测试结果等内容。

    Oct, 2023

  • 如同开卷有益？在 32 位微控制器上利用简单功耗分析读取神经网络架构

    通过简单的模式识别分析，我们提出了一种针对传统 MLP 和 CNN 模型的提取方法，该方法可以运行在高端 32 位微控制器（Cortex-M7）上，并且相对于参数提取而言，攻击的复杂性相对较低，强调了对适应这种平台的强大内存和延迟要求的可行性保护的迫切需求。

    Nov, 2023

  • 深度神经网络硬件故障攻击中的无恩劣化

    本研究探讨了硬件攻击给神经网络的参数带来的影响及其耐受能力，发现大部分模型对单一位比特翻转都有 10% 以上的分类精度下降，结果揭示了神经网络鲁棒性的局限性并提出了未来的研究方向。

    Jun, 2019

  • DeepNcode: 基于编码的神经网络比特翻转攻击防护

    我们引入一种基于编码的保护方法 ——DeepNcode，用于防范神经网络的位翻转攻击，实验结果表明，在 4 位和 8 位量化网络中，保护幅度分别提高了 7.6 倍和 12.4 倍，内存开销从原始网络大小的 50% 开始，而时间开销可忽略不计。此外，DeepNcode 不需要重新训练，也不改变模型的准确性。

    May, 2024