May, 2022

BadDet: 目标检测的后门攻击

PDF
TL;DR本篇文章提出了四种物体检测中的后门攻击： Object Generation 攻击；Regional Misclassification 攻击；Global Misclassification 攻击和 Object Disappearance 攻击。此外，作者还提出了一个名为 Detector Cleanse 的基于熵的运行时检测框架，以识别任何 deployed 物体检测器的污染测试样本。
发现论文，激发创造
  • 使用干净注释对目标检测的后门攻击

    通过对深度学习物体检测算法进行攻击，我们提出了一种简单而有效的后门攻击方法，特别针对物体消失攻击和物体生成攻击，实验证明我们的攻击方法在两个基准物体检测数据集上的攻击成功率超过 92％，而污染率仅为 5％。

    Jul, 2023

  • 基于掩码的目标检测隐形后门攻击

    在该研究中，我们提出了一种有效的基于掩码的不可见后门攻击目标检测技术，并针对目标消失、目标错误分类和目标生成三种攻击场景进行了全面的实验，以确定有效的防御方法。

    Mar, 2024

  • 目标检测的非定向后门攻击

    本研究发现在使用第三方资源训练深度神经网络时容易出现后门威胁，尤其对目标检测等关键应用程序造成威胁。通过无目标特点的简单而有效的毒药后门攻击，我们成功地将后门嵌入目标模型，这可以使模型无法检测到任何与我们的触发模式带有标记的物体。我们在基准数据集上进行了广泛的实验，表明这种方法在数字和现实世界的应用都非常有效，并且对潜在防御手段具有抵御力。

    Nov, 2022

  • 现实世界中物体检测的鲁棒后门攻击

    在这篇论文中，我们提出了一种适应被攻击对象不同大小的可变大小后门触发器，克服了视点和被攻击对象之间距离引起的干扰。此外，我们提出了一种名为恶意对抗训练的后门训练方法，使后门对象检测器能够学习带有物理噪声的触发器特征。实验结果显示，这种强健性后门攻击能够提高在现实世界中的攻击成功率。

    Sep, 2023

  • 物理世界中基于自然触发器的物体检测器后门攻击

    本文第一次证明了现有的目标检测器在数字触发器和实际场景中普遍存在的后门漏洞问题，提出了真实世界物理攻击场景下的攻击方法，并具体研究了三种流行的目标检测算法的鲁棒性与可行性。

    Jan, 2022

  • 视频识别模型的干净标记后门攻击

    本文提出了一种新的视频后门攻击方法，使用通用对抗触发器在影响少量训练数据的情况下成功地攻击最新的视频识别模型，并表明这种新方法具有较强的对抗性和鲁棒性，同时能提高图片后门攻击的效果。

    Mar, 2020

  • 隐蔽触发后门攻击

    本研究提出一种新颖的深度学习后门攻击方式，攻击者能够在训练过程中提供正常标注的毒瘤数据，并在毒瘤数据中隐藏触发器，待测试时再激活攻击，从而欺骗模型，而该攻击方式无法轻易通过最先进的后门攻击的防御算法进行防御。

    Sep, 2019

  • 物理世界中针对深度学习系统的后门攻击

    本文针对实体物体作为触发器所形成的后门攻击，进行一个详细的实证研究，并探究了针对这种攻击的防御方法。研究发现，实体后门攻击非常成功，尤其是对于关键面部特征高度依赖的系统，而且这些攻击可以规避现有的数字攻击防御去针对后门攻击的核心假设。因此，我们需要针对物理世界中的后门攻击，建立更为强大的防御方法。

    Jun, 2020

  • 在能力受限情况下发起强大的后门攻击

    本研究探讨了在能力限制内实施黑盒后门攻击的可能性，通过设计后门触发器，攻击者可以在没有参与训练过程或了解目标模型结构的情况下作为图像注释者或供应商从事此类攻击。实验结果表明，我们的方法在黑盒场景中实现了高攻击成功率，并逃过了最先进的后门防御。

    Apr, 2023

  • 具有有限信息和数据的黑盒检测后门攻击

    该论文提出一种基于黑盒模型的反向工程优化算法，用于检测深度神经网络中嵌入的恶意后门攻击，并通过检测结果进行有效的可靠预测，实验表明其可以有效地应对多种后门攻击。

    Mar, 2021