Apr, 2022

深度学习后门对抗措施鲁棒性的关键评估

PDF
TL;DR本研究对当前三种有效的深度学习后门漏洞防御策略进行了反欺骗攻击测试，重点考察了不同的任务、模型架构、数据集和防御超参数这些因素，揭示了这些策略存在的两种薄弱环节，从而表明开发深度学习后门攻击防范措施的程序的必要性和局限性。
deep learningbackdoor attackscountermeasuresmodel-inspectionrobustness
发现论文，激发创造
  • 深度学习后门攻击及其对策：全面综述

    此研究总结了深度学习中的后门攻击和应对措施，将攻击表面划分为六种并进行攻击分类，将防御措施归类为四种常见类别，并提出未来研究的重点方向。

    Jul, 2020

  • RAB: 防篡改攻击的可证明鲁棒性

    本研究提出了通过随机平滑技术来确保深度神经网络对于各种威胁模型的健壮性，同时证明了所提出的健壮性训练过程的健壮性边界，并在 MNIST、CIFAR-10 和 ImageNette 数据集上进行了可靠性评估，该研究成果有助于更强大的机器学习模型的开发。

    Mar, 2020

  • 从攻击到防御：对黑箱设置中的深度学习安全措施的洞察

    深度学习模型对抗攻击和防御的鲁棒性的综合实验研究表明，模型复杂度和鲁棒性之间存在显著关系，并且应用防御策略可以显著减少攻击效果。

    May, 2024

  • 针对 NLP 模型后门攻击的鲁棒性感知扰动防御 (RAP)

    本文提出了一种基于鲁棒性感知扰动的在线防御机制，可以有效对抗自然语言处理模型的后门攻击，并在情感分析和毒性检测任务中取得更好的防御效果和更低的计算成本。

    Oct, 2021

  • DeepSweep：使用数据增强评估减轻 DNN 后门攻击的框架

    本文介绍了一种利用数据增强技术来减轻背门攻击与增强深度学习模型鲁棒性的方法，并介绍了一个全面评估这些技术的框架。作者通过综合评估 71 种现有的数据增强函数来发现对于不同的背门攻击，最佳的策略可以有效地减轻八种不同的背门攻击，并超越了五种现有的防御方法，从而能够提高未来 DNN 背门研究的参考工具。

    Dec, 2020

  • 通过重新激活攻击打破后门防御中的虚假安全感

    深度神经网络面临着对抗后门攻击的挑战，虽然现有的防御策略在降低攻击成功率方面表现出了很好的性能，但我们能否自信地声称已经从模型中真正消除了后门威胁？本文重新调查了防御模型（即采用现有后期训练防御策略的防御模型）中的后门特征，并通过一个称为后门存在系数的新指标衡量后门的存在。令人惊讶的是，我们发现原始后门在防御模型中仍然存在，而这些后门只是处于休眠状态而非被消除。为了进一步验证这一发现，我们通过设计精心的微小扰动，利用通用对抗攻击来展示这些休眠后门很容易在推理过程中被重新激活。此外，我们还将后门重激活扩展到黑盒场景，并提出了两种有效的方法：基于查询和基于传递的后门重激活攻击。我们验证了所提出方法在图像分类和多模态对比学习（即 CLIP）任务上的有效性。总之，本研究揭示了现有防御策略中尚未探索的关键漏洞，强调了设计更加稳健和先进的后门防御机制的紧迫性。

    May, 2024

  • 评估与提升基于机器学习的网络入侵检测器的对抗鲁棒性

    本研究是首次系统地研究灰盒 / 黑盒交通空间对抗攻击来评估基于 ML 的 NIDS 的鲁棒性，攻击效果最高可达 97% 躲避率。研究提出可自动突变原始数据流、适用于多种 ML/DL 模型和非载荷特征的通用攻击，同时提出防御措施来提高系统鲁棒性。

    May, 2020

  • 防范隐蔽后门攻击

    本文介绍了一些针对语言处理模型的后门攻击进行的防御策略，并且实现了在提高模型对抗后门攻击效果的同时对模型本身影响较小的优化操作。

    May, 2022

  • BackdoorBench：背景门学习全面基准

    该论文建立了一套名为 BackdoorBench 的综合性基准测试，包含 8 个最先进的攻击和 9 个最先进的防御算法，在 5 个模型和 4 个数据集上进行了 8000 个两两组合的全面评估，并通过不同角度的分析研究了 Backdoor Learning 中不同因素的影响。

    Jun, 2022

  • 通过随机平滑验证针对后门攻击的鲁棒性

    本研究研究证明采用随机平滑技术可用于认证抵御后门攻击的鲁棒性，并探讨了现有方法的局限性，强调需要新的理论和方法来认证抵御后门攻击的鲁棒性。

    Feb, 2020