该文章回顾了许多现有的针对机器学习模型的对抗攻击，突出了一些尚未解决的挑战，一些特定领域的约束可能会增加制作对抗样本的难度，也强调了如何将这些理论应用到实践的挑战。

Mar, 2023

通过对网络入侵检测系统进行基于机器学习的威胁模拟，发现现有文献中的威胁模型不适用于实际的网络安全情景，因此，有必要加强现有防御系统以及探索更加真实和有效的对抗方式。

Jun, 2021

本研究针对机器学习在网络入侵检测系统（NIDS）的部署中可能出现的对抗性攻击，提出一种与 NIDS 相关的优先分级体系，并对持续训练对对抗性攻击的影响进行了探索。研究表明，即使没有针对对抗性训练，持续重训可以减少对抗性攻击的影响。同时，本研究也强调了实际问题与研究之间存在的巨大差距，并呼吁对其给予更多关注。

Jun, 2023

本研究是首次系统地研究灰盒 / 黑盒交通空间对抗攻击来评估基于 ML 的 NIDS 的鲁棒性，攻击效果最高可达 97% 躲避率。研究提出可自动突变原始数据流、适用于多种 ML/DL 模型和非载荷特征的通用攻击，同时提出防御措施来提高系统鲁棒性。

May, 2020

本文探讨了在网络入侵检测系统中对抗性问题的本质，从攻击者角度出发，研究利用进化计算和深度学习生成对抗样本的方法，并应用于公共数据集，与基线方法做对比，结果表明，这些生成对抗样本会导致 11 个不同的机器学习模型及投票分类器高误分类率，突出了机器学习检测系统在面临对抗性样本时的脆弱性。

Apr, 2020

利用机器学习（ML）自动化异常检测和网络入侵检测（NID）中的网络攻击分类，提高检测性能。然而，虽然 ML 模型的好处很多，但它们容易受到经过特殊设计的对抗性网络攻击的影响。本文综述了目前最新的对抗学习方法，能够生成实际中可用于机器学习开发和部署的网络拓扑，并描述了 NID 领域中对对抗 ML 使用的挑战。

Aug, 2023

该研究探讨了如何使用对抗性学习通过生成基于 Jacobian 的显著性图攻击的对抗性样本以及探索分类行为，从而攻击监督模型。该分析还包括如何使用对抗性训练来支持监督模型的鲁棒性。随着对抗性样本的出现，两个广泛使用的分类器 —— 随机森林和 J48 的分类性能分别降低了 16 和 20 个百分点，但训练后它们的性能得到提高，证明了它们对这种攻击的鲁棒性。

Apr, 2020

网络入侵检测系统（NIDS）是保护计算机网络免受各种网络攻击和网络安全威胁的关键组成部分。然而，如果 NIDS 本身受到攻击和漏洞，如何保卫防御者？本研究旨在涵盖与 NIDS、对抗性攻击及其防御机制相关的重要方面，以提高基于机器学习和深度学习的 NIDS 的鲁棒性。我们实施了四种强大的对抗性攻击技术，即快速梯度符号方法（FGSM）、雅可比敏感度图攻击（JSMA）、投影梯度下降（PGD）和 Carlini ＆ Wagner（C＆W）在 NIDS 中。我们详细分析了其在各种性能指标方面的性能。此外，我们实施了三种启发式防御策略，即对抗性训练（AT）、高斯数据增强（GDA）和高置信度（HC），以提高在对抗性攻击情况下的 NIDS 鲁棒性。完整的工作流程在实时网络与数据包流中演示，为对对抗性机器学习感兴趣的研究人员提供了整体背景。

Oct, 2023

该研究旨在设计一种高效的基于转移学习的对抗检测器，并评估使用多个策略性放置的对抗检测器与单个对抗检测器相比在入侵检测系统中的有效性。通过将它们各自的决策相结合，我们证明结合多个检测器可以进一步提高对抗流量的可检测性。

Oct, 2022

本文主要介绍了机器学习算法在数字经济和人工智能等领域中的广泛应用，特别是在安全关键应用领域中的重要性。同时，文章详细介绍了对抗机器学习攻击的原理、攻击类型及当前各种防御机制的深度分析。

Feb, 2022