基于功耗的尖峰神经网络故障注入攻击分析

Apr, 2022

基于功耗的尖峰神经网络故障注入攻击分析

Analysis of Power-Oriented Fault Injection Attacks on Spiking Neural Networks

Karthikeyan Nagarajan, Junde Li, Sina Sayyah Ensan, Mohammad Nasim Imtiaz Khan, Sachhidh Kannan...

TL;DR该研究探讨使用全局故障注入攻击和外部电源以及激光光束的影响来破坏普通模拟神经元上孢发挥关键作用的参数。在针对数字分类任务时，最坏情况下可能导致分类准确性降低 85.65%，并提出了相应的防御策略和检测系统。

Abstract

spiking neural networks (SNN) are quickly gaining traction as a viable alternative to Deep Neural Networks (DNN). In comparison to DNNs, SNNs are more computationally powerful and provide superior energy efficiency. SNNs, while exciting at first appearance, contain security-sensitive a

spiking neural networks global fault injection attacks neuron threshold voltage digit classification tasks defenses

发现论文，激发创造

Spiking 和深度神经网络的安全漏洞比较研究

研究 Spiking Neural Networks（SNNs）和 Deep Neural Networks（DNNs）在对抗噪声方面的安全漏洞，并提出了一种新的黑盒攻击方法，考察了 SNNs 和 DNNs 之间在对抗性样本方面的差异，从而为研究 SNNs 的稳健性开辟了新的研究方向。

Feb, 2019

脉冲神经网络对抗鲁棒性的综合分析

通过对比常规 VGG-9 人工神经网络和等效的 Spiking Neural Network 之间在白盒和黑盒情况下对不同类型单步和多步 FGSM（快速梯度符号法）攻击的准确度降低，证明 SNN 对黑盒攻击更具有韧性。此外，研究发现 SNN 的鲁棒性很大程度上取决于相应的训练机制。最后，提出了一个简单而有效的框架，用于从 SNN 中制造对抗性攻击。

May, 2019

针对对抗扰动的强健脉冲神经网络研究

本文提出了新的 SNN 训练方法 S-IBP 和 S-CROWN，并在不同数据集和模型结构中证明了其有效性，最大攻击错误率下降 37.7％，原始准确率下降 3.7％，这是关于 SNN 训练的首次分析。

Apr, 2022

SpikingJET：增强全连接和卷积脉冲神经网络的故障注入

通过对关键组件施加错误和注入故障，本文介绍了一种专为全连接和卷积脉冲神经网络设计的新型故障注入器 SpikingJET。通过对各种脉冲神经网络架构进行广泛的软件级实验，该论文展示了 SpikingJET 的有效性，并揭示了脉冲神经网络对硬件故障的脆弱性和韧性，进一步凸显了脉冲神经网络的故障韧性对于提高神经网络驱动系统在不同领域中的可靠性和安全性所起到的重要作用。

Mar, 2024

使用精心设计的输入噪声训练深度脉冲神经网络，发挥其固有鲁棒性的潜力（HIRE-SNN）

本文研究低延迟深度脉冲神经网络克服对抗攻击的训练算法，通过在输入层引入精心设计的噪声，已有的模型仅需进行微调即可达到防御攻击的效果，同时在分类性能、时延和计算能耗方面表现出色。

Oct, 2021

通过转化实现对抗性鲁棒性的尖峰神经网络

我们提出了一种通过 ANN-to-SNN 转换算法实现对深度 SNN 的鲁棒性训练的方法，该方法在后转换的鲁棒微调阶段，通过对 SNN 的层内发射阈值和突触连接权重进行敌对优化，以保持从预训练 ANN 传递的鲁棒性增益，实现了扩展性的鲁棒 SNN 训练方法。在考虑 SNN 的脉冲操作动力学的多个自适应敌对设置的实验评估中，我们的方法展示了一种具有低延迟的可扩展高鲁棒性深度 SNN 的最新解决方案。

Nov, 2023

低延迟脉冲神经网络的优化电位初始化

通过优化初始膜电位实现高精度 ANN-to-SNN 转换，使得 SNN 在低延迟下达到了与最优性能相当的准确率，并在 CIFAR-10、CIFAR-100 和 ImageNet 数据集上取得了最新的结果。

Feb, 2022

关于脉冲神经网络对抗样本的可传递性和安全性保障

本文研究了 SNN 的对抗鲁棒性，提出了一种新的白盒攻击方法 Auto SAGA，对 SNN 以及 CNN/ViT 模型均有很高的成功率。实验涵盖三个数据集和 19 种不同的分类器模型。

Sep, 2022

提高深度脉冲神经网络训练性能的有效方法

本文介绍了一种新型的深度脉冲神经网络（DSN），它可以直接进行参数训练，不需要先用传统深度神经网络的训练结果来初始化；研究表明，在 DSN 中控制反向路径的膜电位初始值是非常重要的，同时本文提出了一种简单而有效的方法可以加快 DSN 的收敛时间并提高准确性。

Nov, 2016

时间分布的后门攻击对联邦脉冲学习的影响

该研究探讨了脉冲神经网络（SNNs）和联邦学习（FL）在使用神经形态数据时受到后门攻击的脆弱性。研究发现，尽管 SNNs 的效率和 FL 的隐私优势使其在低功率设备上具有潜力，但这些系统容易受到此类攻击。研究采用了针对 SNNs 和 FL 定制的新型攻击策略，通过在时间和恶意设备之间分布后门触发器来增强攻击的有效性和隐蔽性，进一步证明了在部署 SNNs 和 FL 时需要稳健的安全措施。

Feb, 2024