CVPRFeb, 2023

自适应频率触发的深度图像压缩后门攻击

PDF
TL;DR本文提出了一种基于频率的触发器注入模型，针对训练好的图像压缩模型进行多触发器的后门攻击，攻击目标包括压缩质量和任务驱动的度量，并设计了一种简单的动态损失函数以平衡不同损失项的影响，实验结果表明我们的提出的攻击方法能够成功地在单个图像压缩模型中注入多个后门触发器。
deep-learning-based compressionbackdoor attackstrigger injection modelcompression qualitytask-driven measures
发现论文，激发创造
  • 重新思考后门攻击触发器：一个频率的视角

    本研究采用频率分析的视角，对现有的后门攻击方法进行全面的分析，发现现有后门攻击在高频领域存在严重问题，同时提出了一种去除高频问题的平滑后门攻击方法，并研究了其可检测性和泛化性，为深度学习中后门攻击和防御的设计提供了实用建议。

    Apr, 2021

  • 每个人都可以攻击：将有损压缩重新用于自然后门攻击

    通过使用易于访问的算法实施后门攻击，本研究揭示了机器学习模型在实际应用中普遍受到的严重威胁，并通过在图像中注入触发模式的方法，实现了高达 100% 的攻击成功率，同时也提出了相关的后门缓解方法。

    Aug, 2023

  • 一种双重隐蔽后门：从空间和频率角度

    本文提出了一种名为 DUBA 的双重隐蔽后门攻击方法，该方法同时考虑了触发器在时域和频域中的隐蔽性，以实现理想的攻击性能并确保强大的隐蔽性。通过在干净图像中嵌入触发器图像的高频信息，采用傅里叶变换和离散余弦变换在频域中混合毒害图像和干净图像，并采用一种新的攻击策略来进一步提高攻击性能和隐蔽性。对四个数据集上的流行图像分类器进行了广泛评估，结果表明 DUBA 在攻击成功率和隐蔽性方面明显优于现有的后门攻击方法。

    Jul, 2023

  • WaveAttack：基于不对称频率混淆的反向攻击对深度神经网络

    该研究论文提出了一种名为 WaveAttack 的新型基于频域的后门攻击方法，通过离散小波变换（DWT）获取图像的高频特征以生成后门触发器，并引入了一种不对称频域混淆方法，通过在训练和推理阶段添加自适应残差来增强触发器的影响，进一步提高了 WaveAttack 的有效性和隐匿性，在图像忠实度方面超过了现有的后门攻击方法。

    Oct, 2023

  • 基于语义特征的隐形后门攻击

    提出了一种新颖的后门攻击方法，通过使用预训练的受害模型从干净图像中提取低级和高级语义特征，并基于通道注意力生成与高级特征相关联的触发模式，然后使用编码器模型生成受污染的图像，同时维持对后门防御的鲁棒性，实验结果表明，该攻击方法在三个知名图像分类深度神经网络上取得了高攻击成功率，同时具有很好的隐秘性。

    May, 2024

  • 频域后门攻击

    该论文提出一种新的深度学习后门攻击方法 FTROJAN，通过在频域上 Trojan 攻击可以使污染图像几乎无法被检测，且攻击能够成功且不会降低模型的预测准确率。

    Nov, 2021

  • 基于转换触发器的后门攻击

    本文研究基于深度神经网络的后门攻击，在图像的预处理阶段，采用特殊参数的空间变换作为触发模式，仅旋转到特定角度的图片就能激活被攻击深度神经网络的嵌入式后门；同时，本文验证了虽然已存在的后门防御策略具备一定的抗攻击性，但是仍然无法阻止本文介绍的新攻击模式。

    Nov, 2022

  • 重新思考后门攻击的触发条件

    该论文研究了针对深度神经网络的后门攻击，并提出了通过改变触发器来防御后门攻击的方法。

    Apr, 2020

  • 输入空间到特征表示的无感后门攻击

    本文提出了一种新颖的隐形后门攻击方法，该方法通过将触发器模式视为一种特殊噪声并以伯努利分布生成参数，从而在不影响正常输入的情况下利用训练集合并夹杂恶意信息，并考虑对多种最新防御措施的效果验证。

    May, 2022

  • 基于分散像素扰动的图像分类器模型无感后门触发器

    本文提出了一种新的背门触发器，是一个在图像内弱扰动而在整体上产生强识别的三维二进制图案，既易于生成也高效，可以有效地攻击深度神经网络模型，并超越了现有的已知攻击方式。

    Aug, 2022