利用稀疏和隐形触发器的后门攻击

May, 2023

利用稀疏和隐形触发器的后门攻击

Backdoor Attack with Sparse and Invisible Trigger

Yinghua Gao, Yiming Li, Xueluan Gong, Shu-Tao Xia, Qian Wang

TL;DR本文研究 DNN 后门攻击的触发模式，发现现有攻击可视或不稀疏，且不能简单组合以设计有效的稀疏和不可见后门攻击。因此，我们提出了一种有效方法来解决这个问题，称为 SIBA，将触发生成视为稀疏和不可见约束下的双层优化问题，并对基准数据集进行了广泛实验。

Abstract

deep neural networks (DNNs) are vulnerable to backdoor attacks, where the adversary manipulates a small portion of training data such that the victim model predicts normally on the benign samples but classifies t

deep neural networks backdoor attacks trigger patterns optimization problem siba

发现论文，激发创造

使用样本特定触发器的隐形后门攻击

本文研究深度神经网络（DNN）中的后门攻击，提出了一种新的攻击方法，生成样本特定且不可见的添加噪声作为后门触发器，证明了该方法可以有效地攻击有或无防御机制的模型。

Dec, 2020

通过隐写和正则化对深度神经网络进行不可见的后门攻击

该论文通过在深度神经网络中嵌入不可察觉的触发器，实现了一种无形的后门攻击，旨在欺骗模型产生意外行为，同时提出了两种评估指标，评估攻击成功率、功能性和不可见性，并证明此方法可以有效地防范目前最先进的后门检测方法，例如神经网络清理和 TABOR。

Sep, 2019

基于语义特征的隐形后门攻击

提出了一种新颖的后门攻击方法，通过使用预训练的受害模型从干净图像中提取低级和高级语义特征，并基于通道注意力生成与高级特征相关联的触发模式，然后使用编码器模型生成受污染的图像，同时维持对后门防御的鲁棒性，实验结果表明，该攻击方法在三个知名图像分类深度神经网络上取得了高攻击成功率，同时具有很好的隐秘性。

May, 2024

输入空间到特征表示的无感后门攻击

本文提出了一种新颖的隐形后门攻击方法，该方法通过将触发器模式视为一种特殊噪声并以伯努利分布生成参数，从而在不影响正常输入的情况下利用训练集合并夹杂恶意信息，并考虑对多种最新防御措施的效果验证。

May, 2022

通过奇异值分解的隐形后门攻击

本文提出了一种名为 DEBA 的隐形后门攻击方法，通过奇异值分解（SVD）在训练阶段将隐形后门嵌入模型中，导致在特定触发条件下表现出预定义的恶意行为，实验证明 DEBA 方法在攻击效果、感知质量和抵抗防御措施方面表现出高度有效性和鲁棒性。

Mar, 2024

一种双重隐蔽后门：从空间和频率角度

本文提出了一种名为 DUBA 的双重隐蔽后门攻击方法，该方法同时考虑了触发器在时域和频域中的隐蔽性，以实现理想的攻击性能并确保强大的隐蔽性。通过在干净图像中嵌入触发器图像的高频信息，采用傅里叶变换和离散余弦变换在频域中混合毒害图像和干净图像，并采用一种新的攻击策略来进一步提高攻击性能和隐蔽性。对四个数据集上的流行图像分类器进行了广泛评估，结果表明 DUBA 在攻击成功率和隐蔽性方面明显优于现有的后门攻击方法。

Jul, 2023

具有可视、语义、样本特异性和兼容触发器的强韧后门攻击

本文提出了一种名为 VSSC-trigger 的嵌入稳定扩散模型的新方法，使用文本触发器和良性图像生成对比度适当的图像，并解决了之前的不可见触发器在实际运用时出现的可见扭曲问题。

Jun, 2023

隐蔽触发后门攻击

本研究提出一种新颖的深度学习后门攻击方式，攻击者能够在训练过程中提供正常标注的毒瘤数据，并在毒瘤数据中隐藏触发器，待测试时再激活攻击，从而欺骗模型，而该攻击方式无法轻易通过最先进的后门攻击的防御算法进行防御。

Sep, 2019

重新思考后门攻击的触发条件

该论文研究了针对深度神经网络的后门攻击，并提出了通过改变触发器来防御后门攻击的方法。

Apr, 2020

输入感知的动态后门攻击

本文提出一种新的神经后门攻击技术，其中触发器从输入到输入不同，通过基于输入的触发器生成器和交叉触发器测试实现触发器不可重用性，成功规避当前防御方法，从而实现神经后门攻击的隐蔽性。

Oct, 2020