使用 Voronoi 约束的对抗训练

May, 2019

Adversarial Training with Voronoi Constraints

Marc Khoury, Dylan Hadfield-Menell

TL;DR该论文提出了一个几何框架以分析对抗性样本的高维几何，强调了余维数的重要性，并介绍了带有 Voronoi 约束的对抗性训练，证明它比基于球形的对抗性训练在 MNIST 数据上更具鲁棒性。

Abstract

adversarial examples are a pervasive phenomenon of machine learning models where seemingly imperceptible perturbations to the input lead to misclassifications for otherwise statistically accurate models. We propose a geometric framework, drawing on tools from the manifold reconstructio

adversarial examples high-dimensional geometry codimension adversarial training voronoi constraints

发现论文，激发创造

对抗样本的几何性质

该研究提出了一种基于几何框架和流形重建方法的方法，以分析对抗样本的高维几何形状，并证明了不同规范的鲁棒性、球形对抗性训练的样本编号和最近邻分类器与基于球面的对抗训练的充分采样条件。

Nov, 2018

对抗球体

研究表明，计算机视觉模型容易受到输入微小对抗扰动攻击，而该现象是由数据流形的高维几何性质引起的，结果表明神经网络的易受小型对抗性扰动攻击是测试误差的逻辑结果。

Jan, 2018

使用 Voronoi-Epsilon 对抗者测量对抗鲁棒性

研究采用 Voronoi-epsilon 对抗者来构建对抗样本，平衡扰动的两个概念，以克服传统对抗准确性定义中准确性和对抗准确性之间的权衡，并证明在此对抗者上，最近邻分类器是对抗性最强的分类器之一。

May, 2020

维度不变性带来的对抗样本

本文通过理论和实验证据表明，对于指定的输入，规定近似双射映射 $f：R^n →R^m（n≠m）$ 模型的产生了近似不连续的对抗性例子，并且这种不连续性是维数的拓扑不变性导致的。

Apr, 2023

来自计算限制的对抗性示例

高维度分类器为何易受到 “对抗性” 扰动？本文中将阐述这种现象可能不是由于信息论的限制，而是由于计算约束所引起的。同时探讨了分类任务的一种特殊情况，即在高维空间中对于对抗扰动较大的学习是容易的，但是具有计算难度的。这种例子带来了对于经典学习和鲁棒性学习之间的计算复杂度的差异的新见解，并建议这种现象可能是学习算法计算能力所限制的必然副产品。

May, 2018

受限领域内的敌对样本

本文探讨了受限域名（如网络入侵检测）对于制造有针对性的通用扰动向量的脆弱性，并对比了与非受限域名（如图像识别）的表现，结果表明，即使在受限域名下，只要选择五个特定的特征，也能制造成功的对抗性示例，迫使机器学习算法产生错误的分类结果。

Nov, 2020

超越对抗扰动：借助流形辅助的具有合法语义的对抗样本

提出了一种有监督的语义转换生成模型，用于生成具有真实和合法语义的对抗性样本，实现了从非对抗性样本到对抗性样本的合法过渡。实验结果表明，生成的对抗性样本不仅具有更好的视觉质量，还实现了更高的攻击可迁移性和更有效的模型漏洞解释。

Feb, 2024

领域约束的稳健性

研究论文探讨领域约束如何限制对手的能力以及对手如何适应这些限制来创建现实的（符合约束的）对抗性示例。作者开发了从数据中学习领域约束的技术，并展示了如何将学习到的约束集成到对抗制作流程中。作者在网络入侵和网络钓鱼数据集上评估了该方法的功效，并发现：（1）最先进的制作算法产生的高达 82％的对抗性示例违反领域约束，（2）强制执行约束使模型精度提高了高达 34％。

May, 2021

关于对抗样本现象的边界倾斜视角

深度神经网络对抗样本现象的新视角及分类方法的研究。

Aug, 2016

一种基于几何形态的攻击方法，用于生成自然语言对抗样本

本文介绍了一种用于生成自然语言对抗性样本的几何灵感攻击方法，该攻击通过迭代逼近深度神经网络（DNNs）的决策边界生成对抗性样本，并实验证明该攻击方法可以快速欺骗自然语言模型，并表明对抗训练可以提高模型对我们的攻击方法的鲁棒性。

Oct, 2020