Feb, 2024

决策边界检测后门模型的 X 射线模型

PDF
TL;DR通过对决策边界进行分析，我们提出了一种针对 MLaaS 的新型后门攻击检测方法 Model X-ray，可以在不依赖于攻击假设和模型训练细节的情况下，通过对干净输入的硬预测，确定目标 API 是否受到了后门攻击，并确定目标遭受攻击的标签。广泛的实验证明，Model X-ray 可对跨不同后门攻击、数据集和架构的 MLaaS 发挥有效作用。
发现论文，激发创造
  • 具有有限信息和数据的黑盒检测后门攻击

    该论文提出一种基于黑盒模型的反向工程优化算法，用于检测深度神经网络中嵌入的恶意后门攻击，并通过检测结果进行有效的可靠预测，实验表明其可以有效地应对多种后门攻击。

    Mar, 2021

  • 目标检测的非定向后门攻击

    本研究发现在使用第三方资源训练深度神经网络时容易出现后门威胁，尤其对目标检测等关键应用程序造成威胁。通过无目标特点的简单而有效的毒药后门攻击，我们成功地将后门嵌入目标模型，这可以使模型无法检测到任何与我们的触发模式带有标记的物体。我们在基准数据集上进行了广泛的实验，表明这种方法在数字和现实世界的应用都非常有效，并且对潜在防御手段具有抵御力。

    Nov, 2022

  • 通过解耦训练过程进行后门防御

    该论文研究发现深度神经网络易受后门攻击影响，通过自监督学习和半监督微调等方法提出了一种解决方案，通过将原来的训练过程分解成三个阶段，有效地减轻了后门攻击带来的威胁。

    Feb, 2022

  • 通过激活聚类检测深度神经网络的后门攻击

    本文提出了一种新的神经网络后门检测和修复方法，经过广泛的实验结果证明了其对文本和图像分类的有效性。该方法是针对机器学习训练数据可能不可信，恶意攻击者可能通过植入精心制作的样本来攻击系统的现实情况，是首个不需要可验证和可信数据集即可检测和修复植入后门的数据的方法。

    Nov, 2018

  • 利用反向分布对贝叶斯神经网络进行后门攻击

    本文提出了一种基于反向分布的新型后门攻击，能够成功地破坏贝叶斯神经网络的稳健性，并在多个基准数据集上证明了攻击成功率达到了 100%。

    May, 2022

  • 神经网络中的可扩展后门检测

    该论文提出了一种基于触发器反向工程的方法来检测深度学习模型的后门攻击，该方法在实验中表现卓越，能完美地区分被套件攻击的模型和纯模型。

    Jun, 2020

  • RAB: 防篡改攻击的可证明鲁棒性

    本研究提出了通过随机平滑技术来确保深度神经网络对于各种威胁模型的健壮性，同时证明了所提出的健壮性训练过程的健壮性边界，并在 MNIST、CIFAR-10 和 ImageNette 数据集上进行了可靠性评估，该研究成果有助于更强大的机器学习模型的开发。

    Mar, 2020

  • 机器学习中不依赖特定模型的防御后门攻击方法

    该论文提出了一个名为 NEO 的模型无关框架，用于检测和缓解图像分类机器学习模型中的后门攻击，并评估了其在三种被污染的模型中的表现。

    Aug, 2019

  • BaDExpert：提取后门功能以准确检测后门输入

    我们提出了一种针对深度神经网络 (DNNs) 的后期开发防御新方法，用于对抗恶意背后进攻，该方法通过一种新颖的反向工程方法，可以直接从给定的感染模型中提取出背后功能，并将其重建成仅能识别背后输入的模型。我们称之为背后专家模型。我们的防御方法在多个数据集和模型架构上经过验证，有效地减轻了 16 种最先进的背后进攻。

    Aug, 2023

  • 现实世界中物体检测的鲁棒后门攻击

    在这篇论文中，我们提出了一种适应被攻击对象不同大小的可变大小后门触发器，克服了视点和被攻击对象之间距离引起的干扰。此外，我们提出了一种名为恶意对抗训练的后门训练方法，使后门对象检测器能够学习带有物理噪声的触发器特征。实验结果显示，这种强健性后门攻击能够提高在现实世界中的攻击成功率。

    Sep, 2023