深度神经网络容易受到后门攻击，本文提出了一种新方法 Prediction Shift Backdoor Detection（PSBD），利用基于不确定性的方法识别可疑的训练数据，以揭示潜在的后门样本。经过广泛实验证实，PSBD 在主流检测方法中取得了最好的结果。

Jun, 2024

现代机器学习（ML）系统需要大量的训练数据，但常常需要使用外部数据源。然而，这种做法使它们容易受到后门污染攻击的威胁。本文关注一个相对未被深入研究的挑战：在一个被污染的数据集中自动识别后门数据，且不需要额外的干净数据或手动定义后门检测的阈值。通过基于缩放预测一致性（SPC）技术，使得针对后门数据的识别问题成为一个分层数据分割优化问题，并利用一种新的基于 SPC 的损失函数作为主要优化目标。我们的创新体现在几个关键方面：首先，重新审视了传统的 SPC 方法，揭示了其在解决后门识别问题上的局限性。其次，我们基于双层优化的方法精确地识别后门数据，通过最小化改良版的 SPC 损失函数。最后，我们通过在不同基准数据集上评估各种基本标签污染攻击和更复杂的干净标签攻击，证明了我们的方法的有效性。实验结果显示，我们的方法在识别后门数据点方面常常优于当前基准线的性能，平均 AUROC 提高了约 4%-36%。源代码可在此网址获得：https://example.com

Mar, 2024

该论文提出了一种基于触发器反向工程的方法来检测深度学习模型的后门攻击，该方法在实验中表现卓越，能完美地区分被套件攻击的模型和纯模型。

Jun, 2020

本文利用敌对扰动和生成模型执行高效且标签一致的后门攻击，通过注入似乎合理但难以分类的输入来使模型依赖于（易于学习的）后门触发器，达到攻击的目的。

Dec, 2019

通过渐进隔离被污染数据的新方法 (PIPD)，该论文提出了一种有效的训练策略，以训练一个干净的模型，并降低良性数据被错误分类为污染数据的风险。实验结果表明，PIPD 在多个数据集和 DNN 模型上均表现优异，对多种后门攻击的识别能力显著超过了现有方法。

Dec, 2023

这篇论文提出了一种名为 PDB（Proactive Defensive Backdoor）的新颖防御方法，通过在训练过程中主动注入防御型后门，有效地抑制恶意后门，保持对攻击者的秘密，并在原始任务上确保模型的实用性。实验结果表明，我们的方法在各种数据集和模型上实现了最先进的防御性能。

May, 2024

本文提出了一种对抗性的植入算法，可以绕过现有的包括最先进技术在内的检测算法，呼吁设计对抗感知的防御机制来检测后门攻击。

May, 2019

该论文提出一种基于黑盒模型的反向工程优化算法，用于检测深度神经网络中嵌入的恶意后门攻击，并通过检测结果进行有效的可靠预测，实验表明其可以有效地应对多种后门攻击。

Mar, 2021

提出一种新的逐步统一防御（PUD）算法，用于同时防御后门攻击和对抗性攻击，通过模型净化逐步擦除后门和增强模型的对抗鲁棒性。该算法能有效识别受污染的图片，优于最先进的后门防御和对抗性防御方法。

May, 2024

我们提出了一种针对深度神经网络 (DNNs) 的后期开发防御新方法，用于对抗恶意背后进攻，该方法通过一种新颖的反向工程方法，可以直接从给定的感染模型中提取出背后功能，并将其重建成仅能识别背后输入的模型。我们称之为背后专家模型。我们的防御方法在多个数据集和模型架构上经过验证，有效地减轻了 16 种最先进的背后进攻。

Aug, 2023