Jun, 2020

海绵示例：神经网络的能量延迟攻击

PDF
TL;DR本文介绍了一种利用对抗攻击对神经网络进行针对能源和决策延迟的攻击，该攻击构造出能够最大化能源消耗和延迟决策的输入，可对成熟的视觉和语言模型进行攻击，并探讨了从平均情况到最坏情况的硬件能源消耗分析的防御策略。
neural networksenergy consumptionadversarial attacksreal-time performancedefense strategy
发现论文，激发创造
  • 通过海绵毒化对设备内神经网络进行能量 - 延迟攻击

    本文针对移动设备处理器开展了基于海绵毒化攻击的深度学习攻击，并通过实验发现其可以有效地污染现代处理器的内置加速器，并分析了海绵毒化算法中不同因素的影响，并强调了需要改进防御机制以防止此类攻击。

    May, 2023

  • 海绵网络攻击：深度神经网络的海绵权重污染

    本研究提出了一种名为 SpongeNet 的新型海绵攻击，该攻击是直接作用于预训练模型参数的首个海绵攻击，实验证明其具备更高的能耗，并且相较于之前的 Sponge Poisoning 攻击更具伪装性。

    Feb, 2024

  • 统一输入对计算机视觉中激活稀疏性和能耗延迟攻击的影响

    机器学习中的资源效率对于当今十分重要，本文分析了敌对攻击如何通过减少激活稀疏度的方式来增加能耗和决策延迟，并提出了两种新的简单而有效的策略来生成海绵样本，通过实证评估表明这些策略能够在少量计算资源的情况下取得与之前方法相当的激活稀疏效果，并且能够在不同的神经网络之间进行迁移。

    Mar, 2024

  • 关于脉冲神经网络对抗样本的可传递性和安全性保障

    本文研究了 SNN 的对抗鲁棒性，提出了一种新的白盒攻击方法 Auto SAGA，对 SNN 以及 CNN/ViT 模型均有很高的成功率。实验涵盖三个数据集和 19 种不同的分类器模型。

    Sep, 2022

  • 使用精心设计的输入噪声训练深度脉冲神经网络，发挥其固有鲁棒性的潜力（HIRE-SNN）

    本文研究低延迟深度脉冲神经网络克服对抗攻击的训练算法，通过在输入层引入精心设计的噪声，已有的模型仅需进行微调即可达到防御攻击的效果，同时在分类性能、时延和计算能耗方面表现出色。

    Oct, 2021

  • 神经形态硬件上机器学习工作量的高效部署

    本文提供了一种将预先训练的深度神经网络 (DNNs) 转换成脉冲神经网络 (SNNs) 的通用指南，并介绍了一些在神经形态硬件上部署转换后的 SNNs 的技术，可显著改进其延迟，功耗和能耗。实验结果表明，与 Intel Neural Compute Stick 2 相比，使用我们的 SNN 改进技术， Intel 的神经形态处理器 Loihi 在测试的图像分类任务中功耗降低了最多 27 倍，能耗降低了最多 5 倍。

    Oct, 2022

  • 可扩展、能效高和值得信赖的脉冲神经网络的最新进展：从算法到技术

    神经形态计算及尤其是脉冲神经网络 (SNNs) 作为深度神经网络的一种有吸引力的替代方法，已广泛应用于处理来自不同感觉模态的静态和 / 或时间输入的信号处理应用。本文从算法和优化创新的最新进展开始，旨在高效训练和扩展低延迟、能源高效的复杂机器学习应用中的脉冲神经网络 (SNNs)。然后，我们讨论了算法 - 架构共设计方面的最新研究成果，探索在实现高能效和低延迟的同时仍提供高准确性和可信性之间的固有权衡。然后，我们描述了为有效利用这种算法创新而开发的基础硬件。尤其是，我们描述了一种混合方法，即在内存组件和传感器本身中整合模型计算的重要部分。最后，我们讨论了构建可部署 SNN 系统的研究前景，重点是算法 - 硬件 - 应用共设计领域的关键挑战，强调了可信性。

    Dec, 2023

  • 基于功耗的尖峰神经网络故障注入攻击分析

    该研究探讨使用全局故障注入攻击和外部电源以及激光光束的影响来破坏普通模拟神经元上孢发挥关键作用的参数。在针对数字分类任务时，最坏情况下可能导致分类准确性降低 85.65%，并提出了相应的防御策略和检测系统。

    Apr, 2022

  • 针对边缘设备物体检测的延迟攻击

    本文探讨了深度学习应用程序遭受的延迟攻击，并提出了一种新的框架名称为 Overload，用于在物体检测中生成这种攻击。实验结果表明，相比现有方法，我们的攻击方法更简单更有效。

    Apr, 2023

  • 自适应多出口神经网络推断中的减速攻击：不是熊猫，而是树懒

    本文旨在研究和针对 $IoT$ 设备中应用的深度神经网络 $（DNNs）$ 中的威胁问题，提出了一种针对多出口 $DNNs$ 的保护方案，并发现反对策略可以通过进行通用可重复使用的干扰来使 $DNNs$ 减速，如果不进行针对性防御，会对 $IoT$ 设备造成重大损失。

    Oct, 2020