May, 2023

通过海绵毒化对设备内神经网络进行能量 - 延迟攻击

PDF
TL;DR本文针对移动设备处理器开展了基于海绵毒化攻击的深度学习攻击，并通过实验发现其可以有效地污染现代处理器的内置加速器，并分析了海绵毒化算法中不同因素的影响，并强调了需要改进防御机制以防止此类攻击。
on-device deep learningsponge poisoning attackmobile device processorsdefense mechanismsenergy consumption
发现论文，激发创造
  • 海绵网络攻击：深度神经网络的海绵权重污染

    本研究提出了一种名为 SpongeNet 的新型海绵攻击，该攻击是直接作用于预训练模型参数的首个海绵攻击，实验证明其具备更高的能耗，并且相较于之前的 Sponge Poisoning 攻击更具伪装性。

    Feb, 2024

  • 海绵示例：神经网络的能量延迟攻击

    本文介绍了一种利用对抗攻击对神经网络进行针对能源和决策延迟的攻击，该攻击构造出能够最大化能源消耗和延迟决策的输入，可对成熟的视觉和语言模型进行攻击，并探讨了从平均情况到最坏情况的硬件能源消耗分析的防御策略。

    Jun, 2020

  • 使用数据污染进行深度学习系统的有针对性后门攻击

    该论文研究了基于深度学习的认证系统对于后门攻击的脆弱性，特别是通过数据注入的后门攻击，通过注入极少的毒数据，攻击者可以成功实现攻击，进而窃取敏感信息，从而为后续研究防御策略提供了研究价值。

    Dec, 2017

  • 神经网络生成对抗攻击方法

    本论文研究了在机器学习算法中，特别是深度神经网络中毒攻击的方法，提出了生成毒瘤数据的生成方法，并设计了一种检测方法来检测这种攻击。实验结果表明，与直接梯度法相比，这种方法可以加速毒瘤数据的生成速度高达 239.38 倍，且模型的准确度下降略微较低。

    Mar, 2017

  • 模型之外：Android 应用中的深度学习模型数据预处理攻击

    本文介绍对真实世界的基于数据处理的深度学习应用攻击。结果表明，81.56％的应用程序可以成功攻击，这凸显了了解并采取保护数据处理方面的安全措施在设备上的深度学习模型的重要性。

    May, 2023

  • 预测污染：针对 DNN 模型窃取攻击的防御

    本文介绍了一种主动防御机制，针对深度神经网络模型窃取攻击进行干扰预测的方法，可有效应对多种难缠的数据集和攻击类型，并且表现出更优越的效果。

    Jun, 2019

  • 深度源代码处理模型的毒性攻击和防御

    为了验证现有的深度源代码处理模型对毒攻击的脆弱性和提出防御措施，我们提出了一个名为 CodePoisoner 的毒攻击框架和一个有效的防御方法 ——CodeDetector，然后将它们应用于缺陷检测，克隆检测和代码修复。

    Oct, 2022

  • 联邦式机器学习的数据注入攻击

    本文旨在研究联邦机器学习中的数据投毒攻击漏洞，使用一个基于多任务学习框架的联邦学习框架，提出了一个自适应的双层优化问题，并提出了一种系统感知的优化方法，ATTack on Federated Learning (AT2FL)，用于计算联邦机器学习中的设备投毒策略。实验结果表明，无论是直接毒害目标节点还是利用通信协议间接毒害相关节点，联邦多任务学习模型都非常容易受到投毒攻击的影响。

    Apr, 2020

  • 针对边缘设备物体检测的延迟攻击

    本文探讨了深度学习应用程序遭受的延迟攻击，并提出了一种新的框架名称为 Overload，用于在物体检测中生成这种攻击。实验结果表明，相比现有方法，我们的攻击方法更简单更有效。

    Apr, 2023

  • 人工智能中的毒化攻击与防御：一项调研

    本文综述了机器学习分类器训练中的数据污染攻击的安全漏洞，并介绍了几种可行的检测和缓解机制，比较了不同方法的性能以及固有属性，如可靠性、隐私和可解释性。同时，提供了未来研究方向的参考。

    Feb, 2022