ECCVJul, 2022

针对神经网络的几乎不可感知的比特翻转特洛伊攻击

PDF
TL;DR本文提出了一种利用加性噪声和像素流场手段，针对深度神经网络中存在的隐蔽行为的 Trojan 攻击，并通过等效替换处理二进制约束提高了攻击效率。在 CIFAR-10、SVHN 和 ImageNet 数据集上进行了广泛的实验验证，并在攻击效果和图像隐蔽性方面做了对比分析。
发现论文，激发创造
  • TBT: 基于位木马的有针对性神经网络攻击

    本研究提出了一种新的目标二进制特洛伊（TBT）方法，为实现模型的恶意攻击，通过比特翻转攻击将特定的神经特洛伊插入到深度神经网络中。研究表明，只需利用可用的比特翻转技术（即行锤），翻转几个易受攻击的比特就可以将功能完好的 DNN 模型转化为特洛伊感染的模型，并实现将测试图像的 92％分类到目标类的目的。

    Sep, 2019

  • 基于分散像素扰动的图像分类器模型无感后门触发器

    本文提出了一种新的背门触发器，是一个在图像内弱扰动而在整体上产生强识别的三维二进制图案，既易于生成也高效，可以有效地攻击深度神经网络模型，并超越了现有的已知攻击方式。

    Aug, 2022

  • 通过隐写和正则化对深度神经网络进行不可见的后门攻击

    该论文通过在深度神经网络中嵌入不可察觉的触发器，实现了一种无形的后门攻击，旨在欺骗模型产生意外行为，同时提出了两种评估指标，评估攻击成功率、功能性和不可见性，并证明此方法可以有效地防范目前最先进的后门检测方法，例如神经网络清理和 TABOR。

    Sep, 2019

  • 通过翻转受限权重位来针对深度神经网络的定向攻击

    本文研究了一种针对深度神经网络的新攻击范式，即在部署阶段修改模型参数以达到恶意目的，进而将该问题转换为二进制整数规划问题并使用交替方向乘子方法来求解，实验证明该方法优于其他攻击方法。

    Feb, 2021

  • 深度神经网络中特洛伊攻击的表面简单方法

    本文提出了一种新的训练免费的攻击方法，使用一个小的特洛伊模块（TrojanNet）将恶意特征插入目标模型，该模型通过特殊标记对输入进行标记，并将所有标签注入特洛伊，攻击成功率达到 100％，且不会影响模型在原始任务上的准确性。

    Jun, 2020

  • DeepHammer：通过有针对性的比特翻转链降低深度神经网络的智力

    本文利用第一款硬件攻击深度学习模型的工具 DeepHammer，可以在运行时对确定性比特翻转进行深度学习模型注入，从而完全消耗目标 DNN 系统的智能。同时，我们还讨论了几种缓解技术，以保护 DNN 免受此类攻击。

    Mar, 2020

  • 位翻转攻击：使用渐进式位搜索摧毁神经网络

    本文提出了一种名为 Bit-Flip Attack 的攻击方法，通过翻转极小的二进制权重数字来破坏 Deep Neural Network，同时使用 Progressive Bit Search 方法来定位最脆弱的二进制权重数字，在仅翻转 13 个二进制数字的情况下可让 ResNet-18 的准确率从 69.8% 恶化至 0.1%。

    Mar, 2019

  • 一位比特翻转：当比特翻转攻击遭遇模型训练

    深度神经网络的安全性受到了研究人员的广泛关注，本文提出了一种训练辅助位翻转攻击方法，通过与恶意模型相结合，仅通过改变一个关键位的翻转，在部署阶段将普通模型转化为恶意模型，对现有的防御手段仍构成重大威胁。

    Aug, 2023

  • 深度神经网络硬件故障攻击中的无恩劣化

    本研究探讨了硬件攻击给神经网络的参数带来的影响及其耐受能力，发现大部分模型对单一位比特翻转都有 10% 以上的分类精度下降，结果揭示了神经网络鲁棒性的局限性并提出了未来的研究方向。

    Jun, 2019

  • 输入空间到特征表示的无感后门攻击

    本文提出了一种新颖的隐形后门攻击方法，该方法通过将触发器模式视为一种特殊噪声并以伯努利分布生成参数，从而在不影响正常输入的情况下利用训练集合并夹杂恶意信息，并考虑对多种最新防御措施的效果验证。

    May, 2022