持久分类：数据稳定性和对抗样本的新方法

Apr, 2024

持久分类：数据稳定性和对抗样本的新方法

Persistent Classification: A New Approach to Stability of Data and Adversarial Examples

Brian Bell, Michael Geyer, David Glickenstein, Keaton Hamm, Carlos Scheidegger...

TL;DR提出了一个新的研究框架来研究对抗性示例，通过测量插值点与决策边界的角度，显示出对抗性示例在 MNIST 和 ImageNet 数据集的大神经网络中具有比自然示例更低的持久性，并通过开发流形对齐梯度度量与鲁棒性的联系，证明了加入这个度量时可以增强的鲁棒性。

Abstract

There are a number of hypotheses underlying the existence of adversarial examples for classification problems. These include the high-dimensionality of the data, high codimension in the ambient space of the data

adversarial examples classification problems high-dimensionality machine learning models persistence metrics

发现论文，激发创造

对抗样本的几何性质

该研究提出了一种基于几何框架和流形重建方法的方法，以分析对抗样本的高维几何形状，并证明了不同规范的鲁棒性、球形对抗性训练的样本编号和最近邻分类器与基于球面的对抗训练的充分采样条件。

Nov, 2018

对抗球体

研究表明，计算机视觉模型容易受到输入微小对抗扰动攻击，而该现象是由数据流形的高维几何性质引起的，结果表明神经网络的易受小型对抗性扰动攻击是测试误差的逻辑结果。

Jan, 2018

任何分类器的对抗性易受攻击性

本文研究了对抗扰动现象，并推导了任何分类函数的鲁棒性的基本上界，以及证明了存在跨不同分类器传递的具有小风险的对抗扰动。研究显示了生成模型的关键属性，如平滑性和潜在空间的维度，并提供了信息量大的鲁棒性基线。

Feb, 2018

对抗性攻击如何干扰表面稳定准确的分类器

通过对高维度输入数据的实践系统进行观察，我们展示了对于那些容易构建的对抗性攻击及其对大多数模型的威胁性，以及随机扰动的鲁棒性同时易受影响的基本特性，证实了这一现象。然而，令人惊讶的是，即使对于分类器决策边界与训练和测试数据之间只有很小的边距，也很难通过随机取样的扰动来检测到对抗性示例，因此需要更严格的对抗性训练。

Sep, 2023

对抗样本的有趣特性

论文研究了神经网络模型的不确定性对于对抗样本的产生具有决定性作用，与体系结构、数据集和训练协议无关，表现为对抗误差具有与对抗扰动大小呈幂律的普适性，通过减小预测熵来提高对抗鲁棒性，在 CIFAR10 上使用神经架构搜索找到更鲁棒的架构。

Nov, 2017

对抗性样本的（不）可避免性

该研究提出了一个确定深度学习模型标签更改是否合理的框架，并且定义了一个自适应的鲁棒性损失，使用导出的经验公式，开发了相应的数据增强框架和评估方法，证明了其对确定性标签下的一阶最近邻分类的维持一致性，并提供了实证评估结果。

Jun, 2021

对抗训练的数据依赖稳定性分析

通过加入数据分布信息，我们提供了基于随机梯度下降的对抗训练的泛化界限，分析了数据分布的变化和对抗攻击的影响。

Jan, 2024

关于对抗样本现象的边界倾斜视角

深度神经网络对抗样本现象的新视角及分类方法的研究。

Aug, 2016

图像分类器的鲁棒性和不变性属性

本文研究了深度神经网络在噪声环境中的鲁棒性和不变性，提出了快速计算稀疏对抗扰动和数据增强方法，与数据之间的特征联系起来，以实现更可靠的机器学习系统。

Aug, 2022

关于强大而准确分类器的连续性

创建可靠的学习模型、了解对抗性示例现象、解释连续假设与其稳健性和准确性的不兼容性。

Sep, 2023