机器学习模型因神经网络的线性特性容易受到对抗性扰动的影响，该现象不同于过拟合和非线性，但可以通过生成对抗性训练样本来减小MNIST数据集中maxout网络的误差。

Dec, 2014

深度神经网络对抗样本现象的新视角及分类方法的研究。

Aug, 2016

对10种检测对抗样本的最新提议进行比较后得出：它们都可以被利用新的损失函数打败，因此推测对抗样本的固有属性实际上是不存在的。作者提出了一些简单的评估准则来评估未来提出的防御措施。

May, 2017

论文研究了神经网络模型的不确定性对于对抗样本的产生具有决定性作用，与体系结构、数据集和训练协议无关，表现为对抗误差具有与对抗扰动大小呈幂律的普适性，通过减小预测熵来提高对抗鲁棒性，在CIFAR10上使用神经架构搜索找到更鲁棒的架构。

Nov, 2017

本文从理论研究角度分析识别器的易受攻击性，识别了对抗例子的的根本限制。通过实验探讨理论在现实世界的问题中的应用以及图片复杂性对分类器抗对抗性的限制。

Sep, 2018

本研究提供了对毒瘤样本现象的完整刻画，目的在于涵盖研究领域的所有重要方面：（1）毒瘤样本存在的假设，（2）对安全性、可靠性和稳健性的影响，（3）生成和保护对抗样本的方法，（4）毒瘤样本在不同机器学习模型之间的转移能力。（5）本文提供充足的背景信息，可作为调查、教程或使用毒瘤样本进行攻击和防御的目录。

Oct, 2018

该研究提出了一种基于几何框架和流形重建方法的方法，以分析对抗样本的高维几何形状，并证明了不同规范的鲁棒性、球形对抗性训练的样本编号和最近邻分类器与基于球面的对抗训练的充分采样条件。

Nov, 2018

本文对机器学习模型在视觉领域中面临的对抗性攻击和防御方法进行了广泛探讨，并讨论了不同攻击和防御方法的优点和缺点。旨在提供广泛的领域覆盖和机械进攻和防御机制的直观理解。

Nov, 2019

研究了具有独立高斯参数的ReLU网络中对抗性样本的现象。它们通过计算接近于线性的函数产生，瓶颈层在网络中起着关键作用，并确定了到某点计算的比例和敏感度。该研究的主要结论是，在具有恒定深度的网络中，一些深度的限制是必要的，因为有一些深度适当的网络计算接近于常数的函数。

Jun, 2021

研究对抗性漏洞的影响因素，得出标准PGD攻击的成功率呈单调递增的函数关系，表明对抗样本在高维空间局部线性模型上很普遍。

Mar, 2023