MTDeep: 以移动目标防御提升深度神经网络抵御对抗攻击的安全性

May, 2017

MTDeep: 以移动目标防御提升深度神经网络抵御对抗攻击的安全性

MTDeep: Boosting the Security of Deep Neural Nets Against Adversarial Attacks with Moving Target Defense

Sailik Sengupta, Tathagata Chakraborti, Subbarao Kambhampati

TL;DR本文提出了一种利用 Moving Target Defense（MTD）的元防御策略来提高深度神经网络（DNNs）在视觉分类任务中的鲁棒性，其中通过将策略交互组成 Bayesian Stackelberg Game（BSG）来确定选取哪个训练好的神经网络，实验证明 MTDeep 可以有效降低 MNIST、FashionMNIST 和 ImageNet 等数据集中被扰动图像的错误分类率，同时保持对于合法测试图像的高分类准确率，并且 MTDeep 能够与任何现有的防御机制一起使用。

Abstract

Present attack methods can make state-of-the-art classification systems based on deep neural networks misclassify every adversarially modified test example. The design of general defense strategies against a wide range of such attacks still remains a challenging problem. In this paper,

adversarial attacks moving target defense meta-defense deep neural networks classification accuracy

发现论文，激发创造

MetaAdvDet：面向演化型对抗攻击的鲁棒性检测

通过元学习方法构建的双网络框架，旨在解决深度神经网络在遇到少量样本的新对抗攻击时检测精确度低的问题。在 CIFAR-10，MNIST 和 Fashion-MNIST 三个数据集上实验表明，该方法相比于传统的对抗攻击检测方法具有更高的有效性。

Aug, 2019

深度防御：用改进的对抗训练训练 DNNs 提高其鲁棒性

本文提出了一种名为 “deep defense” 的训练方法来解决深度神经网络易受到对抗样本攻击的问题，通过将对抗扰动的正则化器与分类目标相结合，得到的模型能够直接且准确地学习抵御潜在的攻击，实验证明该方法在不同数据集上对比对抗 / Parseval 正则化方法有更好的效果。

Feb, 2018

使用扩散模型的威胁模型不可知对抗性防御

本文介绍了一种在各种威胁模型下生成鲁棒分类器的方法，该方法利用了随机生成建模的最新进展，并利用条件分布采样。通过在被攻击的图像上添加高斯独立同分布噪声，然后进行预训练扩散过程，该方法表现出了可观的鲁棒性。该鲁棒性在 CIFAR-10 数据集上经过了广泛的实验验证，表明我们的方法在各种威胁模型下优于主要的防御方法。

Jul, 2022

动量在对抗攻击中的增强

通过加入动量项的迭代方法，提高了对深度学习模型的黑盒攻击成功率，并得到了广泛的应用。

Oct, 2017

一种基于掩码的对抗性防御方案

本文介绍了一种新的基于掩码的防御策略（MAD），使用此方法可提高深度神经网络模型对低强度的输入扰动的防御能力，相比现有的防御技术该方法不需要任何附加去噪结构或对模型设计的改变，并且实验证明该方法可以对多种对抗性攻击的深度神经网络模型的防御能力提高 20% 至 90% 的分类精度。

Apr, 2022

利用元神经分析检测 AI 木马

本文提出了 Meta Neural Trojan Detection (MNTD) 管道来解决机器学习特洛伊木马攻击检测的挑战，通过训练一个能够预测目标模型是否被特洛伊木马攻击的元分类器来检测黑盒模型，同时引入 jumbo learning 以对特洛伊木马攻击进行分类和预测。在试验和对比中表明，MNTD 达到了 97% 的检测 AUC 分数，并优于现有的检测方法。

Oct, 2019

基于迁移学习的多对抗检测技术用于网络入侵检测系统的攻击逃避检测

该研究旨在设计一种高效的基于转移学习的对抗检测器，并评估使用多个策略性放置的对抗检测器与单个对抗检测器相比在入侵检测系统中的有效性。通过将它们各自的决策相结合，我们证明结合多个检测器可以进一步提高对抗流量的可检测性。

Oct, 2022

元不变性防御：对未知对抗性攻击具有普适健壮性

通过 Meta Invariance Defense (MID) 方法，利用深度神经网络对抗已知和未知的对抗性攻击，实现高级图像分类的鲁棒性和低级图像恢复的抵御能力。

Apr, 2024

通过数据集随机化中和对抗性攻击

本文通过使用超空间投影来提出了一种新的针对图像分类器的通用防御机制，可以提高深度学习模型对抗攻击的鲁棒性，实验结果显示通过优化攻击和生成对抗攻击测试其在 MNIST 数据集上的成功率可以至少减少 89% 和 78%。

Jun, 2023

基于感知度量的任务通用性对抗攻击

提出一种基于永续度量的方法，通过创造高度扭曲网络特征空间的攻击来达到高度通用的敌对样本，旨在打破相对有限的目前攻击的限制，并可将其通过多个网络扩展到多个任务。

Nov, 2018