Oct, 2023

基于局部主导概率的 CBD 认证后门检测器

PDF
TL;DR本研究提出了第一个基于可调整的符合预测方法的认证后门攻击检测器 (CBD)，CBD 通过提供检测推断、攻击检测可保障条件以及假阳性率的概率上界，能够检测到对测试噪音更具有弹性和扰动幅度更小的攻击，同时在多个基准数据集上实验表明 CBD 的检测准确率与现有最先进的检测器相当甚至更高，且具备检测认证能力。
backdoor attackcertified backdoor detectorneural networksdetectionperturbation triggers
发现论文，激发创造
  • 通过去混淆表示学习进行后门防御

    本文提出了一种因果性启发的后门防御方法（CBD），通过构建因果图模型污染数据的生成过程，并将后门攻击作为混淆因素，利用混淆模型学习去混淆的特征表示，最终实现可靠的分类预测。经过多个基准数据集的实验验证，CBD 方法有效地减少了后门威胁，同时在预测良性样本的准确性方面表现出高水平。

    Mar, 2023

  • 具有有限信息和数据的黑盒检测后门攻击

    该论文提出一种基于黑盒模型的反向工程优化算法，用于检测深度神经网络中嵌入的恶意后门攻击，并通过检测结果进行有效的可靠预测，实验表明其可以有效地应对多种后门攻击。

    Mar, 2021

  • 深度学习的横向类别后门

    揭示了一种新的、简单且通用的水平类后门（HCB）攻击，水平类的无害特征与具体类的样本同时存在时，能有效激活后门。在多个任务上的攻击实验表明，HCB 攻击非常高效且有效，对多种反制措施表现出高度压制性。

    Oct, 2023

  • 基于复合后门攻击的毒数据过滤方法 CBPF

    本文提出了一种新颖的三阶段毒化数据过滤方法，名为复合后门毒素过滤（CBPF），通过利用定位受损和干净样本之间的输出上的差异，将数据分区为包含受损和干净实例的子集，进而在推理阶段使受损和干净数据以不同的实体进行分类，实验结果表明 CBPF 成功地过滤掉 CIFAR10 和 ImageNet-12 上六种高级攻击产生的恶意数据，对于 CIFAR10 上的六种攻击平均达到了显著的过滤成功率 99.91%，同时通过在未受污染的样本上训练的模型表现出持续的高准确性水平。

    Jun, 2024

  • 现实世界中物体检测的鲁棒后门攻击

    在这篇论文中，我们提出了一种适应被攻击对象不同大小的可变大小后门触发器，克服了视点和被攻击对象之间距离引起的干扰。此外，我们提出了一种名为恶意对抗训练的后门训练方法，使后门对象检测器能够学习带有物理噪声的触发器特征。实验结果显示，这种强健性后门攻击能够提高在现实世界中的攻击成功率。

    Sep, 2023

  • 神经网络中的可扩展后门检测

    该论文提出了一种基于触发器反向工程的方法来检测深度学习模型的后门攻击，该方法在实验中表现卓越，能完美地区分被套件攻击的模型和纯模型。

    Jun, 2020

  • 目标检测的非定向后门攻击

    本研究发现在使用第三方资源训练深度神经网络时容易出现后门威胁，尤其对目标检测等关键应用程序造成威胁。通过无目标特点的简单而有效的毒药后门攻击，我们成功地将后门嵌入目标模型，这可以使模型无法检测到任何与我们的触发模式带有标记的物体。我们在基准数据集上进行了广泛的实验，表明这种方法在数字和现实世界的应用都非常有效，并且对潜在防御手段具有抵御力。

    Nov, 2022

  • 注入主动防御后门以减轻后门攻击

    这篇论文提出了一种名为 PDB（Proactive Defensive Backdoor）的新颖防御方法，通过在训练过程中主动注入防御型后门，有效地抑制恶意后门，保持对攻击者的秘密，并在原始任务上确保模型的实用性。实验结果表明，我们的方法在各种数据集和模型上实现了最先进的防御性能。

    May, 2024

  • BaDExpert：提取后门功能以准确检测后门输入

    我们提出了一种针对深度神经网络 (DNNs) 的后期开发防御新方法，用于对抗恶意背后进攻，该方法通过一种新颖的反向工程方法，可以直接从给定的感染模型中提取出背后功能，并将其重建成仅能识别背后输入的模型。我们称之为背后专家模型。我们的防御方法在多个数据集和模型架构上经过验证，有效地减轻了 16 种最先进的背后进攻。

    Aug, 2023

  • 防御深度神经网络后门攻击

    本文研究深度神经网络面临的后门攻击问题，提出了基于 L∞规范的神经元修剪方法来消除后门，实验证明该方法成功率显著降低，并对清晰图像保持高分类准确度。

    Feb, 2020