Dec, 2020

DeepSweep：使用数据增强评估减轻 DNN 后门攻击的框架

PDF
TL;DR本文介绍了一种利用数据增强技术来减轻背门攻击与增强深度学习模型鲁棒性的方法，并介绍了一个全面评估这些技术的框架。作者通过综合评估 71 种现有的数据增强函数来发现对于不同的背门攻击，最佳的策略可以有效地减轻八种不同的背门攻击，并超越了五种现有的防御方法，从而能够提高未来 DNN 背门研究的参考工具。
deep learningbackdoor attacksdata augmentationdefense solutionsdnn
发现论文，激发创造
  • DeepSight: 通过深度模型检查减轻联邦学习中的后门攻击

    提出了一种新的基于神经网络的模型过滤方法，称为 DeepSight，旨在对抗联邦学习过程中的后门攻击，并通过基于权重剪辑的防御方法来减轻潜在的后门模型对联邦学习模型的影响。

    Jan, 2022

  • 深度神经网络实际应用中的高效后门攻击

    本文提出了一种新的方法应对数据受限的后门攻击，使用预训练的 CLIP 模型并引入了基于 “干净特征抑制” 和 “污染特征增强” 两大技术来有效地操纵模型的行为，实验表明该方法可显着提高攻击成功率。

    Jun, 2023

  • 在数据有限的配置中减轻深度神经网络中的后门问题

    通过对被污染神经元的特征进行排名，我们提出的方法可以显著降低攻击成功的几率超过 50%，即使只有极小的干净数据集，例如 CIFAR-10 数据集的十个样本，并且不会明显损害模型性能。此外，我们提出的方法比基准方法运行速度快三倍。

    Nov, 2023

  • 在能力受限情况下发起强大的后门攻击

    本研究探讨了在能力限制内实施黑盒后门攻击的可能性，通过设计后门触发器，攻击者可以在没有参与训练过程或了解目标模型结构的情况下作为图像注释者或供应商从事此类攻击。实验结果表明，我们的方法在黑盒场景中实现了高攻击成功率，并逃过了最先进的后门防御。

    Apr, 2023

  • 文本背门学习的统一评估：框架与基准

    本文研究了文本后门攻击对 NLP 系统的实际威胁，并提出了特定的评估协议以解决现有评估中忽略的真实环境差异问题。在此基础上，文章还开发了一个开源工具包 OpenBackdoor，以促进文本后门学习的实现和评估，在此基础上，文章详细探讨了攻击和防御模型的性能，并提出了聚类 - based 的防御策略 CUBE，为未来模型开发提供了基础。

    Jun, 2022

  • 借助背门攻击的人工偏见来减轻模型偏见

    本研究提出一种基于知识蒸馏技术的后门去偏差框架，通过反向人工偏差构建，有效降低了原始数据的模型偏差并最小化了后门攻击的安全风险。该框架在图像和结构化数据集上得到了验证，具有良好的效果。

    Mar, 2023

  • 通过解耦训练过程进行后门防御

    该论文研究发现深度神经网络易受后门攻击影响，通过自监督学习和半监督微调等方法提出了一种解决方案，通过将原来的训练过程分解成三个阶段，有效地减轻了后门攻击带来的威胁。

    Feb, 2022

  • 后门学习：一项调查

    该研究对针对深度神经网络的后门攻击进行了全面的调查，总结和分类现有的后门攻击和防御方法，并提供了分析基于攻击方法的中毒后门攻击的统一框架，并分析了后门攻击与相关领域（如敌对攻击和数据污染）的关系，同时总结了广泛采用的基准数据集。

    Jul, 2020

  • 数据高效后门攻击

    本文提出了一种基于过滤和更新策略的深度神经网络反向攻击样本优化方法，从而提高了毒化数据的效率。通过在 CIFAR-10 和 ImageNet-10 数据集上的实验结果验证了该方法的有效性。

    Apr, 2022

  • 深度神经网络实际部署阶段后门攻击的探索

    探索深度神经网络 (DNNs) 部署阶段和相应防御中基于数据污染的后门攻击，以及实现物理实用性的后门注入算法 —— 子网替换攻击 (SRA)，结果表明该算法有效性与实用性，促进更多对 DNNs 在部署阶段脆弱性的关注。

    Nov, 2021