Oct, 2023

通过特征偏移调整实现稳定的后门净化

PDF
TL;DR深度神经网络容易受到后门攻击，传统的防御方法存在各种问题。本研究提出了一种基于特征位移调整的后门净化方法，通过调整分类器权重来使得后门特征与正常特征分离，实验结果表明该方法在多种攻击场景下表现稳定，并且具有较低的计算成本。
neural networksbackdoor attacksfine-tuningfeature shift tuningcomputation costs
发现论文，激发创造
  • 自然梯度微调有效去除后门

    本文提出了一种名为 NGF 的新颖的去后门深度神经网络的技巧，通过 fine-tuning 一个特定的层，在使用 Fisher 信息矩阵的清洁数据分布感知正则化器的帮助下，成功地消除了各种后门攻击，提高了通用性能。

    Jun, 2023

  • 利用锐度感知最小化增强基于微调的后门防御

    本论文研究基于神经元角度的微调方法 Fine-tuning 与缩小后门相关神经元范数的新型防御范式 FTSAM，提高机器学习模型对抗后门攻击的鲁棒性。实验证明该方法在多个基准数据集和网络架构下具有最先进的防御性能。

    Apr, 2023

  • 通过解耦训练过程进行后门防御

    该论文研究发现深度神经网络易受后门攻击影响，通过自监督学习和半监督微调等方法提出了一种解决方案，通过将原来的训练过程分解成三个阶段，有效地减轻了后门攻击带来的威胁。

    Feb, 2022

  • 基于遗忘权重变化和后门激活的揭示与缓解后门漏洞

    我们的工作主要研究了深度神经网络中的后门攻击安全威胁，并提出了一种基于神经元权重变化和活跃度感知微调的两阶段防御方法，通过实验证明了该方法相比最新的后门防御方法具有更高的性能。

    May, 2024

  • Fine-mixing: 缓解精调语言模型中的后门问题

    本文提出了利用预先训练的权重来缓解 Fine-tuning 语言模型中后门攻击的技术，即 Fine-mixing 和 Embedding Purification，通过三个单句情感分类任务和两个句对分类任务的实验表明，它们的性能优于现有的后门缓解方法，并为安全 Fine-tuned NLP 模型提供了一个基线防御。

    Oct, 2022

  • 数据高效后门攻击

    本文提出了一种基于过滤和更新策略的深度神经网络反向攻击样本优化方法，从而提高了毒化数据的效率。通过在 CIFAR-10 和 ImageNet-10 数据集上的实验结果验证了该方法的有效性。

    Apr, 2022

  • 揭示远程植入后门的途径：一种基于特征的高效文本后门攻击防御方法

    本文提出了一种基于特征的高效在线防御方法，通过距离异常评分来区分有毒和干净的文本样本，在已有的攻击方法上进行了广泛的实验，结果表明该模型具有更好的防御性能和更低的推理成本，并且还能够抵抗基于特征级正则化的攻击。

    Oct, 2022

  • 深度神经网络实际应用中的高效后门攻击

    本文提出了一种新的方法应对数据受限的后门攻击，使用预训练的 CLIP 模型并引入了基于 “干净特征抑制” 和 “污染特征增强” 两大技术来有效地操纵模型的行为，实验表明该方法可显着提高攻击成功率。

    Jun, 2023

  • 通过深度神经网络中的特征图测试方式消除后门特征图

    通过 Feature Map Testing（FMT）检测和消除背门特征图，该方法能显著降低最复杂和看不见的攻击触发器的攻击成功率，并在维持模型性能的同时减轻背门攻击的影响。

    Jul, 2023

  • 部分训练和隔离：缓解后门攻击

    观察了后门攻击的特点，本文提出了一种新的模型训练方法（PT），该方法通过冻结模型的一部分来训练能够隔离可疑样本的模型，然后在此基础上，对一个干净模型进行微调以抵抗后门攻击。

    May, 2024