Nov, 2018
对抗样本的几何性质
On the Geometry of Adversarial Examples
TL;DR该研究提出了一种基于几何框架和流形重建方法的方法，以分析对抗样本的高维几何形状，并证明了不同规范的鲁棒性、球形对抗性训练的样本编号和最近邻分类器与基于球面的对抗训练的充分采样条件。
Abstract
adversarial examples are a pervasive phenomenon of machine learning models where seemingly imperceptible perturbations to the input lead to misclassifications for otherwise statistically accurate models. We propo
发现论文，激发创造
使用Voronoi约束的对抗训练
该论文提出了一个几何框架以分析对抗性样本的高维几何，强调了余维数的重要性，并介绍了带有 Voronoi 约束的对抗性训练，证明它比基于球形的对抗性训练在 MNIST 数据上更具鲁棒性。
May, 2019
GeoDA: 一个基于几何的黑盒对抗攻击框架
本文提出一种有效的黑盒攻击算法，用于生成三维深度神经网络的对抗样例，该算法利用网络决策边界以及小曲率特性来生成具有小l_p范数的有效迭代算法，该算法获得了比现有算法更好的结果。
Mar, 2020
维度不变性带来的对抗样本
本文通过理论和实验证据表明，对于指定的输入，规定近似双射映射$f：R^n →R^m（n≠m）$模型的产生了近似不连续的对抗性例子，并且这种不连续性是维数的拓扑不变性导致的。
Apr, 2023
流形上的投影梯度下降算法
本文提供了一种可计算、直接且数学严谨的方法，用于近似高维数据的类流形的微分几何，以及从输入空间到这些类流形的非线性投影。该方法应用于神经网络图像分类器的设置中，在流形上生成新颖的数据样本，并实现了流形上的对抗训练的投影梯度下降算法，以解决神经网络对对抗性攻击的敏感性问题。
Aug, 2023
对抗训练的高维模型：几何与权衡
在高维度背景下，研究基于边界的线性分类器中的对抗性训练，提出了一个可以研究数据和对手几何结构相互作用的可行数学模型，精确描述了足够统计量的敌对经验风险最小化，揭示了存在可以在不损失准确性的情况下进行防御的方向，并且证明了防御非鲁棒特征在训练中的优势，作为一种有效的防御机制。
Feb, 2024
持久分类：数据稳定性和对抗样本的新方法
提出了一个新的研究框架来研究对抗性示例，通过测量插值点与决策边界的角度，显示出对抗性示例在MNIST和ImageNet数据集的大神经网络中具有比自然示例更低的持久性，并通过开发流形对齐梯度度量与鲁棒性的联系，证明了加入这个度量时可以增强的鲁棒性。
Apr, 2024