Sep, 2019

TBT: 基于位木马的有针对性神经网络攻击

PDF
TL;DR本研究提出了一种新的目标二进制特洛伊（TBT）方法，为实现模型的恶意攻击，通过比特翻转攻击将特定的神经特洛伊插入到深度神经网络中。研究表明，只需利用可用的比特翻转技术（即行锤），翻转几个易受攻击的比特就可以将功能完好的 DNN 模型转化为特洛伊感染的模型，并实现将测试图像的 92％分类到目标类的目的。
deep neural networkstrojan attackbit-flip attacktarget classificationinference accuracy
发现论文，激发创造
  • 深度神经网络中特洛伊攻击的表面简单方法

    本文提出了一种新的训练免费的攻击方法，使用一个小的特洛伊模块（TrojanNet）将恶意特征插入目标模型，该模型通过特殊标记对输入进行标记，并将所有标签注入特洛伊，攻击成功率达到 100％，且不会影响模型在原始任务上的准确性。

    Jun, 2020

  • 一位比特翻转：当比特翻转攻击遭遇模型训练

    深度神经网络的安全性受到了研究人员的广泛关注，本文提出了一种训练辅助位翻转攻击方法，通过与恶意模型相结合，仅通过改变一个关键位的翻转，在部署阶段将普通模型转化为恶意模型，对现有的防御手段仍构成重大威胁。

    Aug, 2023

  • 针对神经网络的几乎不可感知的比特翻转特洛伊攻击

    本文提出了一种利用加性噪声和像素流场手段，针对深度神经网络中存在的隐蔽行为的 Trojan 攻击，并通过等效替换处理二进制约束提高了攻击效率。在 CIFAR-10、SVHN 和 ImageNet 数据集上进行了广泛的实验验证，并在攻击效果和图像隐蔽性方面做了对比分析。

    Jul, 2022

  • 位翻转攻击：使用渐进式位搜索摧毁神经网络

    本文提出了一种名为 Bit-Flip Attack 的攻击方法，通过翻转极小的二进制权重数字来破坏 Deep Neural Network，同时使用 Progressive Bit Search 方法来定位最脆弱的二进制权重数字，在仅翻转 13 个二进制数字的情况下可让 ResNet-18 的准确率从 69.8% 恶化至 0.1%。

    Mar, 2019

  • 通过翻转受限权重位来针对深度神经网络的定向攻击

    本文研究了一种针对深度神经网络的新攻击范式，即在部署阶段修改模型参数以达到恶意目的，进而将该问题转换为二进制整数规划问题并使用交替方向乘子方法来求解，实验证明该方法优于其他攻击方法。

    Feb, 2021

  • T-BFA：目标位翻转对抗性权重攻击

    本文研究了基于比特翻转的模型权重的攻击方法，并提出了一种针对指定输出类的攻击方式，成功地展示了攻击不同 DNN 结构的图像分类任务中的有效性。

    Jul, 2020

  • DeepHammer：通过有针对性的比特翻转链降低深度神经网络的智力

    本文利用第一款硬件攻击深度学习模型的工具 DeepHammer，可以在运行时对确定性比特翻转进行深度学习模型注入，从而完全消耗目标 DNN 系统的智能。同时，我们还讨论了几种缓解技术，以保护 DNN 免受此类攻击。

    Mar, 2020

  • 实用的发现木马神经网络方法：数据受限和无数据情况

    本文探讨了当训练数据遭到恶意篡改时，如何在只能访问已训练深度神经网络的权重的情况下，检测到网络的特洛伊后门攻击（也称为毒化后门攻击），并提出了数据受限和数据无关的特洛伊检测器，该方法通过对定向攻击和预测规避攻击的连接来实现特洛伊检测。实验结果使用 CIFAR-10、GTSRB 和 ImageNet 数据集进行了验证。

    Jul, 2020

  • 基于转换触发器的后门攻击

    本文研究基于深度神经网络的后门攻击，在图像的预处理阶段，采用特殊参数的空间变换作为触发模式，仅旋转到特定角度的图片就能激活被攻击深度神经网络的嵌入式后门；同时，本文验证了虽然已存在的后门防御策略具备一定的抗攻击性，但是仍然无法阻止本文介绍的新攻击模式。

    Nov, 2022

  • 揭示 DNN 可执行文件上的单位翻转攻击

    通过深度神经网络 (DNN) 可执行文件启动比特翻转攻击 (BFA) 的系统研究揭示了存在的攻击表面，并呼吁在未来的 DNN 编译工具链中加入安全机制。

    Sep, 2023