Sep, 2019

通过隐写和正则化对深度神经网络进行不可见的后门攻击

PDF
TL;DR该论文通过在深度神经网络中嵌入不可察觉的触发器，实现了一种无形的后门攻击，旨在欺骗模型产生意外行为，同时提出了两种评估指标，评估攻击成功率、功能性和不可见性，并证明此方法可以有效地防范目前最先进的后门检测方法，例如神经网络清理和 TABOR。
发现论文，激发创造
  • 使用样本特定触发器的隐形后门攻击

    本文研究深度神经网络（DNN）中的后门攻击，提出了一种新的攻击方法，生成样本特定且不可见的添加噪声作为后门触发器，证明了该方法可以有效地攻击有或无防御机制的模型。

    Dec, 2020

  • 基于语义特征的隐形后门攻击

    提出了一种新颖的后门攻击方法，通过使用预训练的受害模型从干净图像中提取低级和高级语义特征，并基于通道注意力生成与高级特征相关联的触发模式，然后使用编码器模型生成受污染的图像，同时维持对后门防御的鲁棒性，实验结果表明，该攻击方法在三个知名图像分类深度神经网络上取得了高攻击成功率，同时具有很好的隐秘性。

    May, 2024

  • 利用稀疏和隐形触发器的后门攻击

    本文研究 DNN 后门攻击的触发模式，发现现有攻击可视或不稀疏，且不能简单组合以设计有效的稀疏和不可见后门攻击。因此，我们提出了一种有效方法来解决这个问题，称为 SIBA，将触发生成视为稀疏和不可见约束下的双层优化问题，并对基准数据集进行了广泛实验。

    May, 2023

  • 基于分散像素扰动的图像分类器模型无感后门触发器

    本文提出了一种新的背门触发器，是一个在图像内弱扰动而在整体上产生强识别的三维二进制图案，既易于生成也高效，可以有效地攻击深度神经网络模型，并超越了现有的已知攻击方式。

    Aug, 2022

  • 输入空间到特征表示的无感后门攻击

    本文提出了一种新颖的隐形后门攻击方法，该方法通过将触发器模式视为一种特殊噪声并以伯努利分布生成参数，从而在不影响正常输入的情况下利用训练集合并夹杂恶意信息，并考虑对多种最新防御措施的效果验证。

    May, 2022

  • 卷积神经网络模型中的后门嵌入：通过不可见扰动

    本文介绍了一种特定类型的数据投毒攻击，即后门注入攻击，讨论了攻击者注入后门到深度学习模型中的方法，并提出了两种在不削弱受害者模型有效性的情况下，难以察觉但能实现模型毒化的后门生成方法。我们进行了广泛的实验评估，并证明即使在最弱的攻击者模型下，这种攻击可以在小的注入率（约为 1％）条件下实现高达 90％以上的攻击成功率。

    Aug, 2018

  • 隐蔽触发后门攻击

    本研究提出一种新颖的深度学习后门攻击方式，攻击者能够在训练过程中提供正常标注的毒瘤数据，并在毒瘤数据中隐藏触发器，待测试时再激活攻击，从而欺骗模型，而该攻击方式无法轻易通过最先进的后门攻击的防御算法进行防御。

    Sep, 2019

  • 具有可视、语义、样本特异性和兼容触发器的强韧后门攻击

    本文提出了一种名为 VSSC-trigger 的嵌入稳定扩散模型的新方法，使用文本触发器和良性图像生成对比度适当的图像，并解决了之前的不可见触发器在实际运用时出现的可见扭曲问题。

    Jun, 2023

  • 深度学习后门

    研究表明：恶意后门注入是指将恶意行为隐藏在深度神经网络中，在输入数据不包含恶意触发器时行为正常，但含有特定触发器时会调用事先定义好的恶意行为，触发器可以采用不同形式，这可以通过替换或扰动一组图像像素来对原始图像应用滤镜进行操作。

    Jul, 2020

  • 毒墨水：强韧且隐蔽的后门攻击

    提出了一种鲁棒性和隐秘性很高的后门攻击方法 ——“毒墨水”。该方法利用图像结构作为目标污染区域，并将其填充信息来生成触发模式，使用深度注入网络将其嵌入到封面图像中，这种触发模式天然具有抵御数据转换的鲁棒性。经过广泛实验，我们证明了 “毒墨水” 不仅适用于不同的数据集和网络架构，而且对许多最先进的防御技术具有非常强的抵抗力。

    Aug, 2021