评估对抗稳健性：FGSM、Carlini-Wagner 攻击的比较及蒸馏在防御机制中的作用

Apr, 2024

评估对抗稳健性：FGSM、Carlini-Wagner 攻击的比较及蒸馏在防御机制中的作用

Evaluating Adversarial Robustness: A Comparison Of FGSM, Carlini-Wagner Attacks, And The Role of Distillation as Defense Mechanism

PDF

Trilokesh Ranjan Sarkar, Nilanjan Das, Pralay Sankar Maitra, Bijoy Some, Ritwik Saha...

TL;DR这篇学术论文深入探讨了针对图像分类任务中使用的深度神经网络（DNN）的对抗性攻击，并调查了旨在增强机器学习模型鲁棒性的防御机制。研究聚焦于理解两种主要攻击方法的影响：快速梯度符号法（FGSM）和 Carlini-Wagner（CW）方法。该文献提出防御蒸馏作为一种抵御 FGSM 和 CW 攻击的防御机制，并使用 CIFAR-10 数据集对其进行评估。虽然该提出的防御技术在抵御 FGSM 等攻击方面表现出有效性，但依然易受到更复杂的技术，如 CW 攻击的影响。通过严格的实验和分析，该研究为对 DNNs 的对抗性攻击的动态以及防御策略的有效性提供了深入见解。

Abstract

This technical report delves into an in-depth exploration of adversarial attacks specifically targeted at deep neural networks (DNNs) utilized for image classification. The study also investigates defense mechanisms

adversarial attacks deep neural networks defense mechanisms fast gradient sign method carlini-wagner approach

发现论文，激发创造

图像分类模型的对抗攻击：分析与防御

本文介绍了对基于卷积神经网络（CNN）的图像分类模型进行对抗攻击的概念，并探讨了一种被称为 FGSM（快速梯度符号方法）的著名对抗攻击方法对图像分类模型性能的负面影响。对三种预训练图像分类器 CNN 结构（ResNet-101，AlexNet 和 RegNetY 400MF）使用 ImageNet 数据集中的随机选择图像进行了模拟 FGSM 攻击，并计算了在攻击存在与不存在时分类器的准确性，以展示攻击对模型性能的有害影响。最后，提出了一种基于修改的防御蒸馏方法来防御 FGSM 攻击，并给出了详尽的实验结果用于验证所提出方案。

Dec, 2023

消除对抗攻击在计算机网络间的传递能力整理

我们提出了一种新颖和全面的方法，以提高对卷积神经网络（CNNs）中对抗性示例的攻击强度和传递性的评估，以及验证计算机网络应用中是否存在传递性问题。我们的研究结果表明，即使在计算机网络应用中，对抗性示例对安全的威胁需要开发新的防御机制来增强深度学习技术的安全性。

Oct, 2023

基于蒸馏的深度神经网络对抗性扰动防御

本研究介绍了一种防御机制，名为防御蒸馏，用于减少对深度神经网络的对抗样本的影响，并通过理论和实验证明了该机制在培训深度神经网络时具有通用性和鲁棒性。

Nov, 2015

评估神经网络的鲁棒性

本研究介绍了新型攻击算法，证明了防御蒸馏并不能显著提升神经网络的强度，提供了高置信度的对抗性样本用于简单的可迁移性测试，该测试可以用于破解防御蒸馏。

Aug, 2016

神经网络的 Wasserstein 分布鲁棒性

对于图像识别任务，深度神经网络易受到针对性攻击，本文使用 Wasserstein 分布鲁棒优化技术重新构建问题模型，并提出了新的攻击算法，包括 FGSM 和 PGD，并给出了对分布威胁模型的渐进估计。

Jun, 2023

利用防御蒸馏和对抗训练来减轻毫米波波束预测模型的对抗性安全威胁

本文介绍了在 6G 无线网络中使用深度神经网络进行波束成形预测的深度学习安全漏洞，并提供两种改善方法，使其能够有效地抵御对人工智能模型的对抗攻击。

Feb, 2022

利用助教提高防御性蒸馏

该项目研究深度神经网络中的对抗攻击并探讨防御性蒸馏的方法，提出通过引入辅助网络来改善蒸馏模型的鲁棒性，并通过实验证明该方法的有效性及其对模型准确性的影响。

May, 2023

图像分类模型的对抗性攻击：FGSM 和 Patch 攻击及其影响

本文介绍了对卷积神经网络 (CNN) 图像分类模型进行对抗攻击的概念，并对两种广为人知的对抗攻击 —— 快速梯度符号方法 (FGSM) 和对抗性贴片攻击进行了讨论和分析，分别在 ResNet-34、GoogleNet 和 DenseNet-161 三种预先训练的强大图像分类器体系结构上启动这两种攻击，并在公开可访问的 ImageNet 数据集上计算模型在有无攻击的情况下的分类精度，分析了攻击对图像分类任务的影响。

Jul, 2023

评估蒙特卡罗和蒸馏方法对深度贝叶斯神经网络分类的对抗鲁棒性

本文考虑在 Markov chain Monte Carlo（MCMC）和 Bayesian Dark Knowledge（BDK）推断近似下评估深度神经网络模型对于对抗攻击的抵抗力的问题，并且比较了全 MCMC 推断和 BDK 对于快速梯度符号方法（FGSM）和投影梯度下降（PGD）两类对抗攻击的鲁棒性。结果表明，全 MCMC 推断具有出色的鲁棒性，显著优于标准点估计学习，而 BDK 提供了较小的提升，此外，我们还提出了一种存储效率高的方法，用于使用 FGSM 和 PGD 攻击计算大型蒙特卡罗集合的对抗性示例。

Feb, 2020

使用扩散模型的威胁模型不可知对抗性防御

本文介绍了一种在各种威胁模型下生成鲁棒分类器的方法，该方法利用了随机生成建模的最新进展，并利用条件分布采样。通过在被攻击的图像上添加高斯独立同分布噪声，然后进行预训练扩散过程，该方法表现出了可观的鲁棒性。该鲁棒性在 CIFAR-10 数据集上经过了广泛的实验验证，表明我们的方法在各种威胁模型下优于主要的防御方法。

Jul, 2022