本文研究了深度学习在无线通信系统中应用的安全性问题，使用快速梯度符号法、动量迭代快速梯度符号法和方向性梯度下降法攻击了大规模多输入多输出系统中功率分配的神经网络，发现在神经网络输入的微小扰动下能使白盒攻击的收益率达到 86%。

Jan, 2021

本文对机器学习模型在视觉领域中面临的对抗性攻击和防御方法进行了广泛探讨，并讨论了不同攻击和防御方法的优点和缺点。旨在提供广泛的领域覆盖和机械进攻和防御机制的直观理解。

Nov, 2019

本文探讨了机器学习在电力系统中的安全性问题，并指出目前大多数算法容易受到对抗性输入数据的攻击，因此需要设计更加健壮和安全的算法。

Aug, 2018

对机器学习模型的黑盒攻击是可能的，即使它们的结构不同。通过生成对抗性样本，并利用受害者模型标记合成训练集，攻击者可以训练出自己的替代模型，并将对抗性样本转移到受害者模型中实施攻击，该方法可以使用新的技术使攻击过程更加有效率，在 Amazon 和 Google 等公司的商业机器学习分类系统中展示了攻击的有效性。

May, 2016

我们提出了一种新颖和全面的方法，以提高对卷积神经网络（CNNs）中对抗性示例的攻击强度和传递性的评估，以及验证计算机网络应用中是否存在传递性问题。我们的研究结果表明，即使在计算机网络应用中，对抗性示例对安全的威胁需要开发新的防御机制来增强深度学习技术的安全性。

Oct, 2023

本篇论文阐述了机器学习领域中的敌对攻击，提出了一种名为 “攻击生成器” 的结构化方法并进行了应用于自动驾驶领域的计算机视觉系统语义分割和目标检测阶段的实践研究，然后针对定义捕获的模块进行了攻击生成，证明了该方法的实用性。

Jun, 2019

本文研究了基于 DL 的模型在无线系统下行功率分配问题中的回归应用，并提出了通用对抗扰动（UAP）制造方法作为白盒和黑盒攻击。通过对 UAP 的性能测试，展示了其白盒和黑盒攻击成功率分别可以达到 60％和 40％。提出的 UAP 攻击方法与传统的白盒攻击相比更具实用性和现实性。

Oct, 2021

机器学习系统中的对抗现象给实际应用带来了严重安全威胁，本调查旨在从统一的视角对现有的防御机制进行系统回顾，通过将机器学习系统划分为预训练、训练、后训练、部署和推断等五个阶段，提出明确的分类法，以分析各个防御机制的机制、联系和差异，并激发未来研究开发更先进、全面的防御机制。

Dec, 2023

本文综述了近期深度学习中对于对抗攻击和防御技术的研究进展，聚焦于基于深度神经网络的分类模型，并进行了对攻击和防御方法的分类和评价，其中重点介绍了正则化方法在提高模型的鲁棒性方面的应用。此外，还探索了新型攻击方式，如基于搜索、决策、降维和物理世界攻击，并提出了对于未来研究的建议。

Mar, 2023

本文通过使用超空间投影来提出了一种新的针对图像分类器的通用防御机制，可以提高深度学习模型对抗攻击的鲁棒性，实验结果显示通过优化攻击和生成对抗攻击测试其在 MNIST 数据集上的成功率可以至少减少 89% 和 78%。

Jun, 2023