先行网络用于检测对抗攻击

Dec, 2018

Prior Networks for Detection of Adversarial Attacks

Andrey Malinin, Mark Gales

TL;DR本文提出了一种新的使用 Prior Networks 的不确定性估计方法来检测对抗攻击的方法，相较于传统方法的蒙特卡洛 dropout 取样有着更优的表现，该方法可以在白盒和黑盒情况下检测到多种对抗攻击。

Abstract

adversarial examples are considered a serious issue for safety critical applications of AI, such as finance, autonomous vehicle control and medicinal applications. Though significant work has resulted in increased robustness of systems to these attacks, systems are still vulnerable to

adversarial examples adversarial attack detection monte-carlo dropout ensembles prior networks predictive uncertainty

发现论文，激发创造

先验网络的反向 KL 散度训练：提高不确定性和对抗鲁棒性

本文研究了如何使用先验网络来代替集成模型在分类、异常检测和对抗攻击检测任务上，并使用反向 KL 散度作为训练标准，提出了一种新的对抗训练方法。研究表明，在分类数据集上，使用先验网络相比于蒙特卡洛 dropout 等其他集成方法能够更好地检测出数据集之外的输入，但是对抗攻击会对其造成影响，需要进行更为复杂的对抗训练来提高其鲁棒性。

May, 2019

利用先验网络进行预测不确定性估计

该研究提出了一种名为 Prior Networks（PNs）的框架来模型化分类任务中的数据和分布不确定性，并在 MNIST 数据集上实现了对 OOD 样本的识别和误分类的检测，与之前的方法相比，PNs 具有更好的表现。

Feb, 2018

检测来自伪像的对抗性样本

本文介绍了一种利用深度学习神经网络中 Bayesian 不确定性估计和密度估计的方法，可以实现对于对抗样本的检测，具有很好的泛化性能，并在标准分类任务上取得了 85-93% 的 ROC-AUC 表现。

Mar, 2017

使用对抗神经网络的机器学习不确定性

本文探讨利用对抗生成网络对高能物理数据进行分类和参数拟合的方法，通过包括之前已知的系统和理论误差，使其具有更高的可靠性和准确性。

Jul, 2018

深度神经网络中攻击领域外不确定性估计

本文研究了基于深度神经网络的不确定性估计算法的鲁棒性，并提出了一种敌对攻击方法，证明了这些算法对于出域数据的不确定性估计容易受到攻击。在各种基准图像数据集上进行的大量实验结果表明，最先进方法所估计的不确定性很容易被我们的攻击所破坏。

Oct, 2022

基于不确定性的语义分割对抗攻击检测

本研究提出基于不确定性的语义分割对抗攻击检测方法，不需修改模型或了解对抗样本生成过程，通过熵等指标区分干净和攻击图片，在多种对抗攻击类型下检测效果良好。

May, 2023

高效的对抗攻击防御

本文提出了一种基于实践观察的新的防御方法，旨在强化深度神经网络的结构，提高其预测稳定性，从而更难受到针对性攻击，并在多种攻击实验中证明了该方法的有效性，相比其他防御方法具有更好的表现，而且在训练过程中的开销几乎可以忽略不计。

Jul, 2017

深度学习不确定性估计的通用框架

提出了一种用基于贝叶斯信任网络和蒙特卡罗采样的方法来对神经网络进行不确定性估计，这个方法具有与神经网络结构和任务无关，不需要优化进程的更改，能够应用于已经训练好的结构，有效地提高了准确性。

Jul, 2019

对于对抗样本检测中不确定度度量的理解

研究不同类型的不确定性测量方法及其在检测对抗性例子中的应用，揭示了 MC dropout 方法的不足，提出了利用概率模型集成来提高不确定性估计质量的建议。实验证明不同不确定性测量方法在 MNIST 和狗猫分类数据集上的不同效果。

Mar, 2018

回归先验网络

本文延伸了 Prior Networks 和 EnD$^2$ 模型，通过正态 - 旺季分布，将其应用于回归任务，实现模型的可解释性、不确定性而保留高精度，相关实验结果表明该模型在各领域均表现出与集成模型相当的性能。

Jun, 2020