本文介绍了对基于卷积神经网络（CNN）的图像分类模型进行对抗攻击的概念，并探讨了一种被称为 FGSM（快速梯度符号方法）的著名对抗攻击方法对图像分类模型性能的负面影响。对三种预训练图像分类器 CNN 结构（ResNet-101，AlexNet 和 RegNetY 400MF）使用 ImageNet 数据集中的随机选择图像进行了模拟 FGSM 攻击，并计算了在攻击存在与不存在时分类器的准确性，以展示攻击对模型性能的有害影响。最后，提出了一种基于修改的防御蒸馏方法来防御 FGSM 攻击，并给出了详尽的实验结果用于验证所提出方案。

Dec, 2023

医学影像分割模型容易受到对抗性攻击，参数大小与对抗性攻击成功率之间没有明显的相关性，并使用不同于训练所用的损失函数可提高对抗性攻击的成功率。

Jan, 2024

本文从优化过程的角度和深度学习模型的尺度不变性出发，提出了两种新的方法来改善对抗样本的传递性，并演示这些攻击方法对抗网络防御模型的高攻击成功率。

Aug, 2019

本研究探讨了联邦医学影像分析系统对对抗攻击的易受攻击性。我们的分析揭示了一种新的利用途径：通过使用先前全局模型更新的梯度信息，攻击者可以提高他们攻击的效率和可迁移性。具体而言，我们证明了单步攻击（例如 FGSM）在适当初始化的情况下，可以超越迭代对手的效率，同时减少计算需求。我们的发现强调了在联邦医疗保健环境中重新审视人工智能安全问题的必要性。

Oct, 2023

该研究利用弯曲正则化方法，将快速梯度符号方法（FGSM）扩展为可实现 adversarial robustness，并比 adversarial projected gradient decent 攻击方法（PGD）具有更高的训练效率。在 MNIST 数据集白盒攻击下，表现与 adv.PGD 相当，在 CIFAR-10 数据集转移攻击上表现更好。

Nov, 2020

本文针对神经检索模型易受打字错误、分布偏移和恶意攻击的问题，研究了对抗训练作为提高模型鲁棒性的可能解决方案之一。研究中采用了两种主要类型的 BERT-based 神经检索模型，并表明最简单的对抗训练技术 Fast Gradient Sign Method (FGSM) 可以提高模型的鲁棒性和效果。

Jan, 2023

本文研究了通过对抗性的样本对基于卷积神经网络的相机模型检测器进行欺骗的反取证方法，并展示了即使用针对图像分析和获取相机模型信息的先进深度学习架构，也存在一定漏洞。

May, 2018

本文介绍了对卷积神经网络 (CNN) 图像分类模型进行对抗攻击的概念，并对两种广为人知的对抗攻击 —— 快速梯度符号方法 (FGSM) 和对抗性贴片攻击进行了讨论和分析，分别在 ResNet-34、GoogleNet 和 DenseNet-161 三种预先训练的强大图像分类器体系结构上启动这两种攻击，并在公开可访问的 ImageNet 数据集上计算模型在有无攻击的情况下的分类精度，分析了攻击对图像分类任务的影响。

Jul, 2023

通过在信号水平上选择关键策略，提出一种竞争式可取消方案的安全改进，以防止对人脸识别系统的敌对攻击。实验结果表明，基于最安全阈值的某些策略可以完全阻止迭代优化的敌对攻击，而对于最实用的阈值，攻击成功率可降低到约 5.0%。

Oct, 2023

该论文介绍了基于机器学习的人脸识别技术在 Web 系统中作为身份认证方法的应用，其中结合了 MTCNN、Facenet 和 LinearSVC 等多个算法进行人脸识别，最终实现了 95% 的准确率。

Mar, 2021