RAB: 防篡改攻击的可证明鲁棒性

Mar, 2020

RAB: Provable Robustness Against Backdoor Attacks

Maurice Weber, Xiaojun Xu, Bojan Karlaš, Ce Zhang, Bo Li

TL;DR本研究提出了通过随机平滑技术来确保深度神经网络对于各种威胁模型的健壮性，同时证明了所提出的健壮性训练过程的健壮性边界，并在 MNIST、CIFAR-10 和 ImageNette 数据集上进行了可靠性评估，该研究成果有助于更强大的机器学习模型的开发。

Abstract

Recent studies have shown that deep neural networks (DNNs) are vulnerable to adversarial attacks, including evasion and backdoor (poisoning) attacks. On the defense side, there have been intensive efforts on impr

deep neural networks adversarial attacks backdoor attacks certifying model robustness randomized smoothing

发现论文，激发创造

通过随机平滑验证针对后门攻击的鲁棒性

本研究研究证明采用随机平滑技术可用于认证抵御后门攻击的鲁棒性，并探讨了现有方法的局限性，强调需要新的理论和方法来认证抵御后门攻击的鲁棒性。

Feb, 2020

针对 NLP 模型后门攻击的鲁棒性感知扰动防御 (RAP)

本文提出了一种基于鲁棒性感知扰动的在线防御机制，可以有效对抗自然语言处理模型的后门攻击，并在情感分析和毒性检测任务中取得更好的防御效果和更低的计算成本。

Oct, 2021

构建针对后门攻击和对抗性攻击的统一鲁棒性

提出一种新的逐步统一防御（PUD）算法，用于同时防御后门攻击和对抗性攻击，通过模型净化逐步擦除后门和增强模型的对抗鲁棒性。该算法能有效识别受污染的图片，优于最先进的后门防御和对抗性防御方法。

May, 2024

反后门学习：在注入恶意数据后训练干净模型

本文提出一种名为反后门学习 (Anti-Backdoor Learning, ABL) 的方法，实现了在数据中注入后门的情况下对深度神经网络进行防御。采用两个阶段的梯度上升机制对数据进行处理，这样训练出的模型可以与只使用纯净数据训练的模型一样优秀。

Oct, 2021

具有有限信息和数据的黑盒检测后门攻击

该论文提出一种基于黑盒模型的反向工程优化算法，用于检测深度神经网络中嵌入的恶意后门攻击，并通过检测结果进行有效的可靠预测，实验表明其可以有效地应对多种后门攻击。

Mar, 2021

利用反向分布对贝叶斯神经网络进行后门攻击

本文提出了一种基于反向分布的新型后门攻击，能够成功地破坏贝叶斯神经网络的稳健性，并在多个基准数据集上证明了攻击成功率达到了 100%。

May, 2022

最近邻居对数据恶意植入和后门攻击的认证鲁棒性

利用 kNN 和 rNN 内在的多数投票机制可以提供针对数据污染攻击和后门攻击的保护，并且我们的评估结果表明 kNN 和 rNN 的内在保护机制胜过目前最先进的合格防御。

Dec, 2020

现实世界中物体检测的鲁棒后门攻击

在这篇论文中，我们提出了一种适应被攻击对象不同大小的可变大小后门触发器，克服了视点和被攻击对象之间距离引起的干扰。此外，我们提出了一种名为恶意对抗训练的后门训练方法，使后门对象检测器能够学习带有物理噪声的触发器特征。实验结果显示，这种强健性后门攻击能够提高在现实世界中的攻击成功率。

Sep, 2023

深度学习后门对抗措施鲁棒性的关键评估

本研究对当前三种有效的深度学习后门漏洞防御策略进行了反欺骗攻击测试，重点考察了不同的任务、模型架构、数据集和防御超参数这些因素，揭示了这些策略存在的两种薄弱环节，从而表明开发深度学习后门攻击防范措施的程序的必要性和局限性。

Apr, 2022

深度神经网络可靠性认证

本文对深度神经网络抗对抗攻击的可靠性进行了研究和分析，并提出了目前的防御方法以及相应的理论和实践意义和发现，最后在不同数据集上提供了全面的鲁棒性验证和训练方法。

Sep, 2020