May, 2019

脉冲神经网络对抗鲁棒性的综合分析

PDF
TL;DR通过对比常规 VGG-9 人工神经网络和等效的 Spiking Neural Network 之间在白盒和黑盒情况下对不同类型单步和多步 FGSM（快速梯度符号法）攻击的准确度降低，证明 SNN 对黑盒攻击更具有韧性。 此外，研究发现 SNN 的鲁棒性很大程度上取决于相应的训练机制。 最后，提出了一个简单而有效的框架，用于从 SNN 中制造对抗性攻击。
machine learningadversarial attacksspiking neural networkrobustnesstraining mechanism
发现论文，激发创造
  • 通过转化实现对抗性鲁棒性的尖峰神经网络

    我们提出了一种通过 ANN-to-SNN 转换算法实现对深度 SNN 的鲁棒性训练的方法，该方法在后转换的鲁棒微调阶段，通过对 SNN 的层内发射阈值和突触连接权重进行敌对优化，以保持从预训练 ANN 传递的鲁棒性增益，实现了扩展性的鲁棒 SNN 训练方法。在考虑 SNN 的脉冲操作动力学的多个自适应敌对设置的实验评估中，我们的方法展示了一种具有低延迟的可扩展高鲁棒性深度 SNN 的最新解决方案。

    Nov, 2023

  • 针对对抗扰动的强健脉冲神经网络研究

    本文提出了新的 SNN 训练方法 S-IBP 和 S-CROWN，并在不同数据集和模型结构中证明了其有效性，最大攻击错误率下降 37.7％，原始准确率下降 3.7％，这是关于 SNN 训练的首次分析。

    Apr, 2022

  • 使用精心设计的输入噪声训练深度脉冲神经网络，发挥其固有鲁棒性的潜力（HIRE-SNN）

    本文研究低延迟深度脉冲神经网络克服对抗攻击的训练算法，通过在输入层引入精心设计的噪声，已有的模型仅需进行微调即可达到防御攻击的效果，同时在分类性能、时延和计算能耗方面表现出色。

    Oct, 2021

  • 概率脉冲神经网络的对抗训练

    该研究首次探讨了脉冲神经网络对抗性样本的敏感性，并提出了一种鲁棒的训练机制，能够显著提高脉冲神经网络在白盒攻击下的性能。

    Feb, 2018

  • Spiking 和深度神经网络的安全漏洞比较研究

    研究 Spiking Neural Networks（SNNs）和 Deep Neural Networks（DNNs）在对抗噪声方面的安全漏洞，并提出了一种新的黑盒攻击方法，考察了 SNNs 和 DNNs 之间在对抗性样本方面的差异，从而为研究 SNNs 的稳健性开辟了新的研究方向。

    Feb, 2019

  • 深度脉冲神经网络的固有对抗鲁棒性：离散输入编码和非线性激活的影响

    本文介绍了潜在的对抗攻击抗干扰能力强的脉冲神经网络（SNN），以及研究表明使用 Poisson 编码器的输入离散化和 Leaky-Integrate-Fire (LIF) 神经元的泄漏率增加可提高其在 CIFAR 数据集上的对抗准确性。

    Mar, 2020

  • 关于脉冲神经网络对抗样本的可传递性和安全性保障

    本文研究了 SNN 的对抗鲁棒性，提出了一种新的白盒攻击方法 Auto SAGA，对 SNN 以及 CNN/ViT 模型均有很高的成功率。实验涵盖三个数据集和 19 种不同的分类器模型。

    Sep, 2022

  • HoSNN: 自适应发放阈值的对抗性稳态尖峰神经网络

    通过采用基于神经稳态的解决方案，本研究提出了一种新型的对抗性鲁棒稳态脉冲神经网络（HoSNN），利用阀值自适应泄漏积分火（TA-LIF）神经元模型来抵御脉冲神经网络（SNNs）对抗性攻击的易感性。在理论分析中，我们阐明了 TA-LIF 神经元的稳定性和收敛性，突显了相对于传统 LIF 神经元，在输入分布变化下其优越的动态鲁棒性。令人惊讶的是，即使在没有显式对抗训练的情况下，我们的 HoSNN 在 CIFAR-10 上展示了固有的鲁棒性，对 FGSM 和 PGD 攻击准确率分别提高到 72.6％和 54.19％，分别相对于之前的 20.97％和 0.6％。此外，通过最小程度的 FGSM 对抗训练，我们的 HoSNN 在 CIFAR-10 上对 FGSM 攻击和 PGD 攻击的准确率分别超过了以往模型的 29.99％和 47.83％。我们的发现为加强 SNNs 的对抗鲁棒性及防御提供了一种新的生物学原理视角，为更具弹性的神经形态计算铺平了道路。

    Aug, 2023

  • 提高 SNNs 中稀疏梯度的对抗鲁棒性

    通过梯度稀疏化正则化提高脉冲神经网络 (SNNs) 的鲁棒性，将梯度稀疏性与对抗性扰动之间的差距最小化，改善 SNNs 的整体鲁棒性。

    May, 2024

  • 基于功耗的尖峰神经网络故障注入攻击分析

    该研究探讨使用全局故障注入攻击和外部电源以及激光光束的影响来破坏普通模拟神经元上孢发挥关键作用的参数。在针对数字分类任务时，最坏情况下可能导致分类准确性降低 85.65%，并提出了相应的防御策略和检测系统。

    Apr, 2022