MMJul, 2023

一种双重隐蔽后门：从空间和频率角度

PDF
TL;DR本文提出了一种名为 DUBA 的双重隐蔽后门攻击方法，该方法同时考虑了触发器在时域和频域中的隐蔽性，以实现理想的攻击性能并确保强大的隐蔽性。通过在干净图像中嵌入触发器图像的高频信息，采用傅里叶变换和离散余弦变换在频域中混合毒害图像和干净图像，并采用一种新的攻击策略来进一步提高攻击性能和隐蔽性。对四个数据集上的流行图像分类器进行了广泛评估，结果表明 DUBA 在攻击成功率和隐蔽性方面明显优于现有的后门攻击方法。
backdoor attacksdeep neural networksinvisibility of triggersfrequency domainstealthiness
发现论文，激发创造
  • 重新思考后门攻击触发器：一个频率的视角

    本研究采用频率分析的视角，对现有的后门攻击方法进行全面的分析，发现现有后门攻击在高频领域存在严重问题，同时提出了一种去除高频问题的平滑后门攻击方法，并研究了其可检测性和泛化性，为深度学习中后门攻击和防御的设计提供了实用建议。

    Apr, 2021

  • WaveAttack：基于不对称频率混淆的反向攻击对深度神经网络

    该研究论文提出了一种名为 WaveAttack 的新型基于频域的后门攻击方法，通过离散小波变换（DWT）获取图像的高频特征以生成后门触发器，并引入了一种不对称频域混淆方法，通过在训练和推理阶段添加自适应残差来增强触发器的影响，进一步提高了 WaveAttack 的有效性和隐匿性，在图像忠实度方面超过了现有的后门攻击方法。

    Oct, 2023

  • 利用稀疏和隐形触发器的后门攻击

    本文研究 DNN 后门攻击的触发模式，发现现有攻击可视或不稀疏，且不能简单组合以设计有效的稀疏和不可见后门攻击。因此，我们提出了一种有效方法来解决这个问题，称为 SIBA，将触发生成视为稀疏和不可见约束下的双层优化问题，并对基准数据集进行了广泛实验。

    May, 2023

  • 通过奇异值分解的隐形后门攻击

    本文提出了一种名为 DEBA 的隐形后门攻击方法，通过奇异值分解（SVD）在训练阶段将隐形后门嵌入模型中，导致在特定触发条件下表现出预定义的恶意行为，实验证明 DEBA 方法在攻击效果、感知质量和抵抗防御措施方面表现出高度有效性和鲁棒性。

    Mar, 2024

  • 频域后门攻击

    该论文提出一种新的深度学习后门攻击方法 FTROJAN，通过在频域上 Trojan 攻击可以使污染图像几乎无法被检测，且攻击能够成功且不会降低模型的预测准确率。

    Nov, 2021

  • 通过进化算法的低频黑盒后门攻击

    我们提出了一种强鲁棒性的低频黑盒后门攻击 (LFBA)，通过最小干扰频率频谱的低频部分并同时在空间空间中保持感知相似性，将触发耦合在受害分类器之外并具有高攻击性、对图像转换防御的强鲁棒性和隐蔽性。

    Feb, 2024

  • 输入空间到特征表示的无感后门攻击

    本文提出了一种新颖的隐形后门攻击方法，该方法通过将触发器模式视为一种特殊噪声并以伯努利分布生成参数，从而在不影响正常输入的情况下利用训练集合并夹杂恶意信息，并考虑对多种最新防御措施的效果验证。

    May, 2022

  • 自适应频率触发的深度图像压缩后门攻击

    本文提出了一种基于频率的触发器注入模型，针对训练好的图像压缩模型进行多触发器的后门攻击，攻击目标包括压缩质量和任务驱动的度量，并设计了一种简单的动态损失函数以平衡不同损失项的影响，实验结果表明我们的提出的攻击方法能够成功地在单个图像压缩模型中注入多个后门触发器。

    Feb, 2023

  • 基于转换触发器的后门攻击

    本文研究基于深度神经网络的后门攻击，在图像的预处理阶段，采用特殊参数的空间变换作为触发模式，仅旋转到特定角度的图片就能激活被攻击深度神经网络的嵌入式后门；同时，本文验证了虽然已存在的后门防御策略具备一定的抗攻击性，但是仍然无法阻止本文介绍的新攻击模式。

    Nov, 2022

  • 通过隐写和正则化对深度神经网络进行不可见的后门攻击

    该论文通过在深度神经网络中嵌入不可察觉的触发器，实现了一种无形的后门攻击，旨在欺骗模型产生意外行为，同时提出了两种评估指标，评估攻击成功率、功能性和不可见性，并证明此方法可以有效地防范目前最先进的后门检测方法，例如神经网络清理和 TABOR。

    Sep, 2019