CVPRMar, 2023

不要惊慌：FREAK 方法用于检测 DNNs 中带后门污染样本

PDF
TL;DR本文研究了深度神经网络在对比干净数据样本和污染数据样本时的频率敏感性，发现两种数据样本的频率敏感性存在显著差异。利用这些发现，我们提出了一种名为 FREAK 的基于频率的污染样本检测算法，展现了其在频率后门攻击和部分空间攻击中的高效性。本研究为未来的后门防御研究和开发提供了基础。
发现论文，激发创造
  • 数据高效后门攻击

    本文提出了一种基于过滤和更新策略的深度神经网络反向攻击样本优化方法，从而提高了毒化数据的效率。通过在 CIFAR-10 和 ImageNet-10 数据集上的实验结果验证了该方法的有效性。

    Apr, 2022

  • 重新思考后门攻击触发器：一个频率的视角

    本研究采用频率分析的视角，对现有的后门攻击方法进行全面的分析，发现现有后门攻击在高频领域存在严重问题，同时提出了一种去除高频问题的平滑后门攻击方法，并研究了其可检测性和泛化性，为深度学习中后门攻击和防御的设计提供了实用建议。

    Apr, 2021

  • 探索数据选择对后门攻击中的毒性效果的影响

    本研究重点改进了从样本选择角度提高后门攻击的注入效率，并提出了一种名为改进过滤和更新策略（FUS++）的选择策略，实验证明该策略的攻击性能显著高于随机选择的攻击性能。

    Oct, 2023

  • 频域后门攻击

    该论文提出一种新的深度学习后门攻击方法 FTROJAN，通过在频域上 Trojan 攻击可以使污染图像几乎无法被检测，且攻击能够成功且不会降低模型的预测准确率。

    Nov, 2021

  • 无敌傍门防御

    我们提出了一个有效的防御框架，该框架在数据预处理过程中注入非对抗性后门，以抵御深度神经网络面对后门攻击的威胁。在多个基准测试和代表性攻击的广泛实验中，我们的方法实现了业界领先的防御效果，在干净数据上性能下降极低。鉴于我们的框架展示的惊人防御能力，我们呼吁更多关注如何利用后门进行后门防御。

    Jul, 2023

  • 毒药为疗法：在深度神经网络中检测和中和可变大小的后门攻击

    提出了一种有效的对抗性样本（backdoor）防御方法，它由多个子模块组成，能够在检测到 backdoor 的同时进行筛选清洗，并通过提取毒信号的方式中和攻击。该防御方法在 CIFAR10 数据集上针对 9 种不同的目标基类配对均表现出较好的效果。

    Nov, 2019

  • 在数据有限的配置中减轻深度神经网络中的后门问题

    通过对被污染神经元的特征进行排名，我们提出的方法可以显著降低攻击成功的几率超过 50%，即使只有极小的干净数据集，例如 CIFAR-10 数据集的十个样本，并且不会明显损害模型性能。此外，我们提出的方法比基准方法运行速度快三倍。

    Nov, 2023

  • 通过解耦训练过程进行后门防御

    该论文研究发现深度神经网络易受后门攻击影响，通过自监督学习和半监督微调等方法提出了一种解决方案，通过将原来的训练过程分解成三个阶段，有效地减轻了后门攻击带来的威胁。

    Feb, 2022

  • WaveAttack：基于不对称频率混淆的反向攻击对深度神经网络

    该研究论文提出了一种名为 WaveAttack 的新型基于频域的后门攻击方法，通过离散小波变换（DWT）获取图像的高频特征以生成后门触发器，并引入了一种不对称频域混淆方法，通过在训练和推理阶段添加自适应残差来增强触发器的影响，进一步提高了 WaveAttack 的有效性和隐匿性，在图像忠实度方面超过了现有的后门攻击方法。

    Oct, 2023

  • 一种双重隐蔽后门：从空间和频率角度

    本文提出了一种名为 DUBA 的双重隐蔽后门攻击方法，该方法同时考虑了触发器在时域和频域中的隐蔽性，以实现理想的攻击性能并确保强大的隐蔽性。通过在干净图像中嵌入触发器图像的高频信息，采用傅里叶变换和离散余弦变换在频域中混合毒害图像和干净图像，并采用一种新的攻击策略来进一步提高攻击性能和隐蔽性。对四个数据集上的流行图像分类器进行了广泛评估，结果表明 DUBA 在攻击成功率和隐蔽性方面明显优于现有的后门攻击方法。

    Jul, 2023