重构式神经元修剪用于后门防御

ICMLMay, 2023

Reconstructive Neuron Pruning for Backdoor Defense

Yige Li, Xixiang Lyu, Xingjun Ma, Nodens Koren, Lingjuan Lyu...

TL;DR本文提出了一种新的防御方法 ——Reconstructive Neuron Pruning（RNP），它通过一种非对称重构学习过程，针对神经网络中的 backdoor 节点进行暴露和修剪，并取得了先进的防御效果。

Abstract

deep neural networks (DNNs) have been found to be vulnerable to backdoor attacks, raising security concerns about their deployment in mission-critical applications. While existing defense methods have demonstrated promising results, it is still not clear how to effectively remove backd

deep neural networks backdoor attacks reconstructive neuron pruning asymmetric learning model security

发现论文，激发创造

思考修剪在后门缓解中的作用：优化的视角

为了解决剔除被感染深度神经网络中的后门相关神经元的问题，在现有方法的基础上，我们提出了优化神经元剪枝（ONP）方法，结合图神经网络（GNN）和强化学习（RL），通过学习图嵌入和找到适当的剪枝策略来修复后门模型。实验证明，ONP 可以在几乎没有性能降级的情况下有效剪枝由一组后门攻击植入的后门神经元，从而实现了后门缓解领域的最新最佳性能。

May, 2024

对抗神经元剪枝净化植入后门的深度模型

通过 Adversarial Neuron Pruning (ANP) 修复易崩溃的 DNN 神经元，即可在不影响性能的情况下去除后门攻击。

Oct, 2021

基于幅值的神经元修剪用于后门防御

我们研究了深度神经网络中后门行为与神经元幅度之间的相关性，并提出了一种基于幅度的神经元修剪方法来检测和修剪后门神经元，实现暴露后门行为、消除后门神经元和保留干净神经元的目的，实验证明我们的修剪策略在有限数量的干净数据下实现了最先进的后门防御性能，揭示了幅度在引导后门防御中的关键作用。

May, 2024

精细修剪：防御深度神经网络背门攻击

本文提出了针对深度神经网络中的后门攻击的有效防御措施，证明了单独使用修剪或微调是不足以防御复杂攻击的，但结合使用微调 - 修剪可以成功削弱或消除后门攻击，仅略微降低网络对于普通 (非触发输入) 的准确率。该研究为深度神经网络中的后门攻击提供了防御措施的第一步。

May, 2018

基于梯度的模型修剪消除后门攻击

在日益关注网络安全威胁的时代，针对后门攻击的防御对于确保机器学习模型的完整性和可靠性至关重要。然而，许多现有方法要求大量数据以进行有效的缓解，给实际部署带来了重大挑战。为解决这个问题，我们提出了一种将后门攻击缓解视为一项取消学习任务的新方法。我们通过有针对性的模型修剪策略来应对这一挑战，利用取消学习损失梯度来识别和消除模型中的后门元素。基于坚实的理论洞察，我们的方法简单有效，非常适合数据有限的场景。我们的方法包括制定合适的取消学习损失以及设计适用于卷积神经网络的模型修剪技术。综合评估结果表明，相对于最先进的方法，我们提出的方法在现实数据设置下表现出更高的有效性。

May, 2024

基于遗忘权重变化和后门激活的揭示与缓解后门漏洞

我们的工作主要研究了深度神经网络中的后门攻击安全威胁，并提出了一种基于神经元权重变化和活跃度感知微调的两阶段防御方法，通过实验证明了该方法相比最新的后门防御方法具有更高的性能。

May, 2024

仅使用少量干净样本的统一神经背门去除方法：遗忘与重新学习

ULRL 是一种全面有效的去除后门的新方法，它通过首先使用 unlearning 来识别可疑神经元，然后通过有针对性的神经权重调整来减轻后门攻击，ULRL 在消除后门同时保留模型的实用性方面显著优于现有方法。

May, 2024

通过解耦训练过程进行后门防御

该论文研究发现深度神经网络易受后门攻击影响，通过自监督学习和半监督微调等方法提出了一种解决方案，通过将原来的训练过程分解成三个阶段，有效地减轻了后门攻击带来的威胁。

Feb, 2022

防御深度神经网络后门攻击

本文研究深度神经网络面临的后门攻击问题，提出了基于 L∞规范的神经元修剪方法来消除后门，实验证明该方法成功率显著降低，并对清晰图像保持高分类准确度。

Feb, 2020

在数据有限的配置中减轻深度神经网络中的后门问题

通过对被污染神经元的特征进行排名，我们提出的方法可以显著降低攻击成功的几率超过 50%，即使只有极小的干净数据集，例如 CIFAR-10 数据集的十个样本，并且不会明显损害模型性能。此外，我们提出的方法比基准方法运行速度快三倍。

Nov, 2023