LiBRe：一种实用的贝叶斯方法用于对抗性检测

CVPRMar, 2021

LiBRe：一种实用的贝叶斯方法用于对抗性检测

LiBRe: A Practical Bayesian Approach to Adversarial Detection

Zhijie Deng, Xiao Yang, Shizhen Xu, Hang Su, Jun Zhu

TL;DR本文介绍了 Lightweight Bayesian Refinement (LiBRe) 方法，利用 Bayesian 神经网络（BNNs）进行对抗检测。利用任务和攻击不可知建模的能力，LiBRe 可以以低成本为多种预训练的任务依赖型 DNN 提供防御异构性对抗攻击能力，并提供不需要在训练过程中制作对抗性示例就能实现对抗检测定向的不确定性量化的新颖见解。

Abstract

Despite their appealing flexibility, deep neural networks (DNNs) are vulnerable against adversarial examples. Various adversarial defense strategies have been proposed to resolve this problem, but they typically

adversarial defense bayesian neural networks deep neural networks adversarial detection uncertainty quantification

发现论文，激发创造

Adv-BNN: 基于鲁棒性贝叶斯神经网络的改进对抗防御

提出了一种新算法，使用贝叶斯神经网络模型和模型分布的学习来训练神经网络以提高其对抗攻击的鲁棒性，在实验中取得了最先进的效果。

Oct, 2018

使用贝叶斯神经网络检测对抗性示例

这篇论文提出了一种新的框架，即 BATer，使用贝叶斯神经网络（BNN）来模拟隐藏层输出分布的随机性和分散度，从而提高对抗性例子的检测性能，实验结果表明，与当前最先进的检测器相比，BATer 在对抗性例子检测方面表现更好。

May, 2021

攻击贝叶斯：贝叶斯神经网络的对抗鲁棒性

贝叶斯神经网络并不具备固有的对抗攻击鲁棒性，而近期的研究表明对抗性样本导致神经网络在各种视觉和语言任务上失效。该研究通过研究三个任务的对抗鲁棒性来验证贝叶斯神经网络的鲁棒性，结果表明即使使用相对不复杂的攻击方法，使用最先进的近似推断方法和哈密頓蒙特卡洛方法训练的贝叶斯神经网络仍然容易受到对抗攻击，并揭示了之前声称贝叶斯神经网络具备固有对抗鲁棒性的研究中存在的概念和实验错误。

Apr, 2024

具有对抗鲁棒性的深度神经网络及其在恶意软件检测中的应用

提出了一种新的对抗样本解决方案，该方案通过随机破坏样本中的特征，阻止攻击者构建有影响力的对抗样本，从而显著提高深度神经网络对抗样本的鲁棒性，同时保持高分类准确性。

Oct, 2016

关于 “Adv-BNN: 基于鲁棒性贝叶斯神经网络的改进对抗防御” 的评论

Liu 等人最近的一篇论文结合了对抗训练和贝叶斯神经网络（BNN）的主题，并建议对抗性训练的 BNN 比其非贝叶斯对应物更能抵御对抗攻击。在此，笔者分析了所提出的防御，并建议需要调整对抗攻击，以融入贝叶斯网络的随机性质，以对其稳健性进行准确评估。使用这种新型攻击，我表明对抗性训练的 BNN 似乎没有更强的稳健性证据。

Jul, 2019

高效的对抗攻击防御

本文提出了一种基于实践观察的新的防御方法，旨在强化深度神经网络的结构，提高其预测稳定性，从而更难受到针对性攻击，并在多种攻击实验中证明了该方法的有效性，相比其他防御方法具有更好的表现，而且在训练过程中的开销几乎可以忽略不计。

Jul, 2017

深度防御：用改进的对抗训练训练 DNNs 提高其鲁棒性

本文提出了一种名为 “deep defense” 的训练方法来解决深度神经网络易受到对抗样本攻击的问题，通过将对抗扰动的正则化器与分类目标相结合，得到的模型能够直接且准确地学习抵御潜在的攻击，实验证明该方法在不同数据集上对比对抗 / Parseval 正则化方法有更好的效果。

Feb, 2018

DLA: 密集层分析用于对抗样本检测

本文介绍了一种新的端到端框架来检测深度神经网络中可能存在的对抗样本，采用神经元覆盖率引导测试来分析 DNN 的密集层激活模式，以实现实时检测，能够覆盖各种类型的 DNN 架构，包括 LSTM，防御了最先进的攻击，同时提供确保无法轻易绕过的白盒自适应攻击。

Nov, 2019

贝叶斯神经网络对抗攻击的鲁棒性研究

本文旨在分析大数据下拟贝叶斯神经网络 (Bayesian Neural Networks) 对抗性攻击 (Adversarial Attack) 的几何特征，证明当数据分布存在退化时，对抗性攻击的易感性增加，并证明拟贝叶斯神经网络后验概率分布的期望梯度为零，因此在 MNIST、Fashion MNIST 和半月形数据集上，拟贝叶斯神经网络可展现出对于基于梯度和基于无梯度攻击的同时鲁棒性和高准确率。

Jul, 2022

MetaAdvDet：面向演化型对抗攻击的鲁棒性检测

通过元学习方法构建的双网络框架，旨在解决深度神经网络在遇到少量样本的新对抗攻击时检测精确度低的问题。在 CIFAR-10，MNIST 和 Fashion-MNIST 三个数据集上实验表明，该方法相比于传统的对抗攻击检测方法具有更高的有效性。

Aug, 2019