ICLRJan, 2021

神经注意力蒸馏：从深度神经网络中消除后门触发器

PDF
TL;DR本文提出一种新的神经网络注意力蒸馏（NAD）防御框架，旨在通过训练干净数据子集的教师网络来指导含有后门的学生网络微调，以消除后门触发器，本文经验性地展示了 NAD 可有效使用仅占 5％的清洁训练数据消除后门触发器。
发现论文，激发创造
  • 对抗神经元剪枝净化植入后门的深度模型

    通过 Adversarial Neuron Pruning (ANP) 修复易崩溃的 DNN 神经元，即可在不影响性能的情况下去除后门攻击。

    Oct, 2021

  • 防御深度神经网络后门攻击

    本文研究深度神经网络面临的后门攻击问题，提出了基于 L∞规范的神经元修剪方法来消除后门，实验证明该方法成功率显著降低，并对清晰图像保持高分类准确度。

    Feb, 2020

  • 无触发后门攻击对抗深度神经网络

    本文中提出了基于随机失活技术的无需触发器的深度神经网络后门攻击方法，该方法在保持攻击成功率的前提下，对模型的实用性损失十分微小。

    Oct, 2020

  • DHBE：通过受限对抗蒸馏进行数据无关的深度神经网络全局后门消除

    本文提出基于 DHBE 框架的反向传播攻击清除方法，实现了既不牺牲模型准确率也不需要干净数据的干净模型生成。

    Jun, 2023

  • 无敌傍门防御

    我们提出了一个有效的防御框架，该框架在数据预处理过程中注入非对抗性后门，以抵御深度神经网络面对后门攻击的威胁。在多个基准测试和代表性攻击的广泛实验中，我们的方法实现了业界领先的防御效果，在干净数据上性能下降极低。鉴于我们的框架展示的惊人防御能力，我们呼吁更多关注如何利用后门进行后门防御。

    Jul, 2023

  • 通过校正神经激活分布进行后门缓解

    这篇论文揭示和分析了后门攻击的一个重要特性：成功攻击会导致后门触发实例的内部层激活分布发生改变，与干净实例的分布不同。基于这一观察，作者提出了一种高效和有效的方法，通过使用逆向工程的触发器来纠正分布变化，从而实现后期训练的后门缓解。该方法不会改变 DNN 的任何可训练参数，但与需要大量 DNN 参数调整的现有方法相比，其缓解性能普遍更好。它还能有效检测带有触发器的测试实例，可以帮助及时发现恶意攻击者对后门进行利用。

    Aug, 2023

  • 重思图形后门攻击：维持分布的视角

    本文研究了一种新颖的问题，即使用分布内的触发器进行不可察觉的图形后门攻击。为了生成分布内的触发器，我们引入了一个离群点检测器和对抗性学习策略，以在分布内生成触发器的属性。在真实世界的数据集上进行的大量实验证明了所提方法在生成可以绕过各种防御策略的分布内触发器的同时，能够保持高攻击成功率。

    May, 2024

  • 在数据有限的配置中减轻深度神经网络中的后门问题

    通过对被污染神经元的特征进行排名，我们提出的方法可以显著降低攻击成功的几率超过 50%，即使只有极小的干净数据集，例如 CIFAR-10 数据集的十个样本，并且不会明显损害模型性能。此外，我们提出的方法比基准方法运行速度快三倍。

    Nov, 2023

  • 精细修剪：防御深度神经网络背门攻击

    本文提出了针对深度神经网络中的后门攻击的有效防御措施，证明了单独使用修剪或微调是不足以防御复杂攻击的，但结合使用微调 - 修剪可以成功削弱或消除后门攻击，仅略微降低网络对于普通 (非触发输入) 的准确率。该研究为深度神经网络中的后门攻击提供了防御措施的第一步。

    May, 2018

  • 通过扰动的迁移性检测神经网络后门

    研究表明深度神经网络中容易发生 backdoor 污染攻击，本文研究发现有一种有趣的特性，就是在有污染的模型中敌对扰动更容易传输从而用这个特性提出一种能在 TrojAI 基准测试中检测污染模型的方法。

    Mar, 2021