Aug, 2023

每个人都可以攻击：将有损压缩重新用于自然后门攻击

PDF
TL;DR通过使用易于访问的算法实施后门攻击，本研究揭示了机器学习模型在实际应用中普遍受到的严重威胁，并通过在图像中注入触发模式的方法，实现了高达 100% 的攻击成功率，同时也提出了相关的后门缓解方法。
backdoor attacksmachine learning modelstrigger generation algorithmlossy image compressionpoisoning rates
发现论文，激发创造
  • 自适应频率触发的深度图像压缩后门攻击

    本文提出了一种基于频率的触发器注入模型，针对训练好的图像压缩模型进行多触发器的后门攻击，攻击目标包括压缩质量和任务驱动的度量，并设计了一种简单的动态损失函数以平衡不同损失项的影响，实验结果表明我们的提出的攻击方法能够成功地在单个图像压缩模型中注入多个后门触发器。

    Feb, 2023

  • 图像分类器后门数据污染攻击的系统评估

    本文系统评估了包括触发器模式、回归技术、模型体系结构及数据集在内的不同实验条件，并研究后门数据污染攻击的成功率及其可被检测的难度。

    Apr, 2020

  • 基于语义特征的隐形后门攻击

    提出了一种新颖的后门攻击方法，通过使用预训练的受害模型从干净图像中提取低级和高级语义特征，并基于通道注意力生成与高级特征相关联的触发模式，然后使用编码器模型生成受污染的图像，同时维持对后门防御的鲁棒性，实验结果表明，该攻击方法在三个知名图像分类深度神经网络上取得了高攻击成功率，同时具有很好的隐秘性。

    May, 2024

  • MALICE: 对学习的图像压缩算法的操纵攻击

    本文通过白盒和黑盒攻击展示了当输入图像发生微小扰动时，现有的深度学习图像压缩系统容易受到攻击。为此，我们提出了一种新的压缩架构 factorAtn，它结合了注意力模型和因式熵模型，取得了更好的性能表现。

    May, 2022

  • 隐蔽触发后门攻击

    本研究提出一种新颖的深度学习后门攻击方式，攻击者能够在训练过程中提供正常标注的毒瘤数据，并在毒瘤数据中隐藏触发器，待测试时再激活攻击，从而欺骗模型，而该攻击方式无法轻易通过最先进的后门攻击的防御算法进行防御。

    Sep, 2019

  • 有损压缩用于无损预测

    本文利用无监督目标设计神经压缩器进行图像压缩，以满足具有数据增强特征的所有预测任务的高性能，实现了大幅度节省数据率的效果，同时不会降低下游分类性能。

    Jun, 2021

  • 输入空间到特征表示的无感后门攻击

    本文提出了一种新颖的隐形后门攻击方法，该方法通过将触发器模式视为一种特殊噪声并以伯努利分布生成参数，从而在不影响正常输入的情况下利用训练集合并夹杂恶意信息，并考虑对多种最新防御措施的效果验证。

    May, 2022

  • 通过混合模式潜在修改的后门攻击

    提出一种只需对干净模型进行最小修改（特别是输出层）以在精调的假象下注入后门的后门攻击范例。通过利用位于潜空间中不同模态之间的模式混合样本，并引入一种新的后门攻击方法来实现。在 MNIST，CIFAR-10，GTSRB 和 TinyImageNet 数据集上评估该方法的有效性。

    Mar, 2024

  • 自监督学习的后门攻击

    该研究探讨了对于基于无监督大规模未标注数据的自监督学习方法的后门攻击，提出了通过知识蒸馏的防御方法，并在实验中取得了成功。

    May, 2021

  • 在能力受限情况下发起强大的后门攻击

    本研究探讨了在能力限制内实施黑盒后门攻击的可能性，通过设计后门触发器，攻击者可以在没有参与训练过程或了解目标模型结构的情况下作为图像注释者或供应商从事此类攻击。实验结果表明，我们的方法在黑盒场景中实现了高攻击成功率，并逃过了最先进的后门防御。

    Apr, 2023