思考修剪在后门缓解中的作用：优化的视角

May, 2024

思考修剪在后门缓解中的作用：优化的视角

Rethinking Pruning for Backdoor Mitigation: An Optimization Perspective

Nan Li, Haiyang Yu, Ping Yi

TL;DR为了解决剔除被感染深度神经网络中的后门相关神经元的问题，在现有方法的基础上，我们提出了优化神经元剪枝（ONP）方法，结合图神经网络（GNN）和强化学习（RL），通过学习图嵌入和找到适当的剪枝策略来修复后门模型。实验证明，ONP 可以在几乎没有性能降级的情况下有效剪枝由一组后门攻击植入的后门神经元，从而实现了后门缓解领域的最新最佳性能。

Abstract

deep neural networks (DNNs) are known to be vulnerable to backdoor attacks, posing concerning threats to their reliable deployment. Recent research reveals that backdoors can be erased from infected DNNs by pruni

deep neural networks backdoor attacks neuron pruning graph neural network reinforcement learning

发现论文，激发创造

重构式神经元修剪用于后门防御

本文提出了一种新的防御方法 ——Reconstructive Neuron Pruning（RNP），它通过一种非对称重构学习过程，针对神经网络中的 backdoor 节点进行暴露和修剪，并取得了先进的防御效果。

May, 2023

对抗神经元剪枝净化植入后门的深度模型

通过 Adversarial Neuron Pruning (ANP) 修复易崩溃的 DNN 神经元，即可在不影响性能的情况下去除后门攻击。

Oct, 2021

精细修剪：防御深度神经网络背门攻击

本文提出了针对深度神经网络中的后门攻击的有效防御措施，证明了单独使用修剪或微调是不足以防御复杂攻击的，但结合使用微调 - 修剪可以成功削弱或消除后门攻击，仅略微降低网络对于普通 (非触发输入) 的准确率。该研究为深度神经网络中的后门攻击提供了防御措施的第一步。

May, 2018

基于幅值的神经元修剪用于后门防御

我们研究了深度神经网络中后门行为与神经元幅度之间的相关性，并提出了一种基于幅度的神经元修剪方法来检测和修剪后门神经元，实现暴露后门行为、消除后门神经元和保留干净神经元的目的，实验证明我们的修剪策略在有限数量的干净数据下实现了最先进的后门防御性能，揭示了幅度在引导后门防御中的关键作用。

May, 2024

基于梯度的模型修剪消除后门攻击

在日益关注网络安全威胁的时代，针对后门攻击的防御对于确保机器学习模型的完整性和可靠性至关重要。然而，许多现有方法要求大量数据以进行有效的缓解，给实际部署带来了重大挑战。为解决这个问题，我们提出了一种将后门攻击缓解视为一项取消学习任务的新方法。我们通过有针对性的模型修剪策略来应对这一挑战，利用取消学习损失梯度来识别和消除模型中的后门元素。基于坚实的理论洞察，我们的方法简单有效，非常适合数据有限的场景。我们的方法包括制定合适的取消学习损失以及设计适用于卷积神经网络的模型修剪技术。综合评估结果表明，相对于最先进的方法，我们提出的方法在现实数据设置下表现出更高的有效性。

May, 2024

防御深度神经网络后门攻击

本文研究深度神经网络面临的后门攻击问题，提出了基于 L∞规范的神经元修剪方法来消除后门，实验证明该方法成功率显著降低，并对清晰图像保持高分类准确度。

Feb, 2020

利用 Shapley 估计的少样本背景防御

本研究提出了一种名为 Shapley Pruning 的新方法，利用 Shapley 值识别受攻击感染的神经元并修剪掉尽可能多的神经元，保护神经网络在数据不充足情况下（每类别只有 1 张图片甚至没有数据）的结构和精度，证明了该方法对抗不同攻击和任务的有效性和鲁棒性。

Dec, 2021

重思图形后门攻击：维持分布的视角

本文研究了一种新颖的问题，即使用分布内的触发器进行不可察觉的图形后门攻击。为了生成分布内的触发器，我们引入了一个离群点检测器和对抗性学习策略，以在分布内生成触发器的属性。在真实世界的数据集上进行的大量实验证明了所提方法在生成可以绕过各种防御策略的分布内触发器的同时，能够保持高攻击成功率。

May, 2024

基于鲁棒性的图神经网络反后门攻击防御

图神经网络对抵御不同属性的后门攻击进行了实证验证，并提出了一种随机边缘去除的检测方法，并通过引入新的强化训练策略来有效地抵御触发器的影响。在真实数据集上进行的广泛实验证明，该框架能够有效地识别受到污染的节点，在抵御具有不同属性的不同类型图后门攻击时显著降低攻击成功率，并保持清洁准确性。

Jun, 2024

通过分层最优脑外科医生学习剪枝深度神经网络

本文提出了一种基于层次的剪枝方法对深度神经网络进行压缩，通过独立剪枝每个层次的参数可以保证压缩后的网络只需要进行轻量级的重新训练即可恢复预测能力，并在基准数据集上进行了广泛实验以证明其有效性。

May, 2017