PAD-FT：一种通过数据净化和微调进行轻量级后门攻击防御的方法

Sep, 2024

PAD-FT：一种通过数据净化和微调进行轻量级后门攻击防御的方法

PAD-FT: A Lightweight Defense for Backdoor Attacks via Data Purification and Fine-Tuning

Yukai Xu, Yujie Gu, Kouichi Sakurai

TL;DR本研究针对深度神经网络面临的后门攻击威胁，提出了一种新颖的轻量级防御机制PAD-FT，解决了传统防御依赖额外干净数据集的问题。通过简单的数据净化过程选择最可能的干净数据，PAD-FT在仅微调模型最后分类层的情况下，展示了在多种后门攻击方法和数据集上的优越效果。

Abstract

Backdoor attacks pose a significant threat to deep neural networks, particularly as recent advancements have led to increasingly subtle implantation, making the defense more challenging. Existing defense mechanisms typically rely on an additional clean dataset as a standard reference a

发现论文，激发创造

毒药为疗法：在深度神经网络中检测和中和可变大小的后门攻击

提出了一种有效的对抗性样本（backdoor）防御方法，它由多个子模块组成，能够在检测到backdoor的同时进行筛选清洗，并通过提取毒信号的方式中和攻击。该防御方法在CIFAR10数据集上针对9种不同的目标基类配对均表现出较好的效果。

Nov, 2019

DeepSweep：使用数据增强评估减轻DNN后门攻击的框架

本文介绍了一种利用数据增强技术来减轻背门攻击与增强深度学习模型鲁棒性的方法，并介绍了一个全面评估这些技术的框架。作者通过综合评估 71 种现有的数据增强函数来发现对于不同的背门攻击，最佳的策略可以有效地减轻八种不同的背门攻击，并超越了五种现有的防御方法，从而能够提高未来 DNN 背门研究的参考工具。

Dec, 2020

反后门学习：在注入恶意数据后训练干净模型

本文提出一种名为反后门学习 (Anti-Backdoor Learning, ABL) 的方法，实现了在数据中注入后门的情况下对深度神经网络进行防御。采用两个阶段的梯度上升机制对数据进行处理，这样训练出的模型可以与只使用纯净数据训练的模型一样优秀。

Oct, 2021

BackdoorBench：背景门学习全面基准

该论文建立了一套名为BackdoorBench的综合性基准测试，包含8个最先进的攻击和9个最先进的防御算法，在5个模型和4个数据集上进行了8000个两两组合的全面评估，并通过不同角度的分析研究了Backdoor Learning中不同因素的影响。

Jun, 2022

自适应分割毒瘤数据集防御后门攻击

本文提出了训练时的一种反击策略：将受污染的数据集分为两个数据池，并采用动态更新的方法来成功抵御戴有后门的攻击。

Mar, 2023

利用锐度感知最小化增强基于微调的后门防御

本论文研究基于神经元角度的微调方法Fine-tuning与缩小后门相关神经元范数的新型防御范式FTSAM，提高机器学习模型对抗后门攻击的鲁棒性。实验证明该方法在多个基准数据集和网络架构下具有最先进的防御性能。

Apr, 2023

无敌傍门防御

我们提出了一个有效的防御框架，该框架在数据预处理过程中注入非对抗性后门，以抵御深度神经网络面对后门攻击的威胁。在多个基准测试和代表性攻击的广泛实验中，我们的方法实现了业界领先的防御效果，在干净数据上性能下降极低。鉴于我们的框架展示的惊人防御能力，我们呼吁更多关注如何利用后门进行后门防御。

Jul, 2023

通过特征偏移调整实现稳定的后门净化

深度神经网络容易受到后门攻击，传统的防御方法存在各种问题。本研究提出了一种基于特征位移调整的后门净化方法，通过调整分类器权重来使得后门特征与正常特征分离，实验结果表明该方法在多种攻击场景下表现稳定，并且具有较低的计算成本。

Oct, 2023

基于遗忘权重变化和后门激活的揭示与缓解后门漏洞

我们的工作主要研究了深度神经网络中的后门攻击安全威胁，并提出了一种基于神经元权重变化和活跃度感知微调的两阶段防御方法，通过实验证明了该方法相比最新的后门防御方法具有更高的性能。

May, 2024

基于费舍尔信息的后门攻击净化方法

本研究解决了深度神经网络（DNN）在后门攻击中如何保持数据完整性的问题。通过提出费舍尔信息引导的净化框架（FIP），该方法通过抑制后门效果并保留干净数据的知识来优化模型，显著提升了抗击后门攻击的能力及运行效率。实验表明，该方法在多项任务和数据集上达到了最先进的表现。

Sep, 2024