深度神经网络分类区域

May, 2017

Classification regions of deep neural networks

Alhussein Fawzi, Seyed-Mohsen Moosavi-Dezfooli, Pascal Frossard, Stefano Soatto

TL;DR本文研究了深度神经网络在输入空间中的几何属性，通过系统实证研究发现，深度神经网络具有连通的分类区域并且其在数据点附近的决策边界在大多数方向上是平坦的，同时该文进一步证明了深度神经网络曲率决策边界的本质联系，最终提出了一种基于决策边界曲率的小型对抗样本检测方法。

Abstract

The goal of this paper is to analyze the geometric properties of deep neural network classifiers in the input space. We specifically study the topology of classification regions created by deep networks, as well as their associated →

deep neural network classification regions decision boundary additive perturbations adversarial examples

发现论文，激发创造

分类器对于通用扰动的稳健性：几何视角

本文通过理论分析和几何方法，探究深度神经网络在面对普适性扰动时的稳健性，并揭示了决策边界几何形态（平坦或曲线）与稳健性之间的关系，证明了在正曲率方向上存在共享决策边界的情况下，存在极小的普适性扰动。

May, 2017

深度神经网络的决策边界研究：实证研究

深度学习神经网络中决策边界的演变及其对抗训练的影响等领域的问题研究。

Feb, 2020

深度学习函数从图像中学习特征空间中的决策边界和凸包

通过研究深度神经网络在图像分类和学习方面的成功，我们开发了方法和公式来研究模型中的特征空间，以此去理解决策边界在特征空间和像素空间中的几何构成和所带来的影响，进一步探讨其对对抗性漏洞、图像变形、外推，模糊分类以及数学上的理解等方面的启示。

Feb, 2022

深度神经网络中线性区域特性的实证研究

通过局部属性的研究，探究了 DNN 的表达能力和优化技术对其决策边界的影响，并希望这一研究能够启示新型优化技术的设计和发现 DNN 的行为模式。

Jan, 2020

图像分类器的鲁棒性和不变性属性

本文研究了深度神经网络在噪声环境中的鲁棒性和不变性，提出了快速计算稀疏对抗扰动和数据增强方法，与数据之间的特征联系起来，以实现更可靠的机器学习系统。

Aug, 2022

利用深度神经网络构建常规决策边界

本研究提出了一种基于卷积神经网络的通用结构，研究了不同超参数下网络表现，探究了深度网络规则性和本地特征的分离和收缩特性，并展示了在 CIFAR10 和 CIFAR100 上高精度的实现。

Mar, 2017

探究已训练神经网络的决策边界

通过计算决策边界上的精确点，并提供数学工具来研究定义决策边界的表面，本文旨在确认一些对决策边界的猜测是准确的，某些计算方法可以得到改进，而一些简化假设可能是不可靠的，特别是涉及到非线性激活函数的模型。最后，本文提出了计算实践的改进方法，并揭示了计算决策边界上最接近点的弱点，以此来提高模型对抗攻击的鲁棒性。

Aug, 2019

深度神经网络的决策边界特征化

本文提出了一种 Deep Decision boundary Instance Generation（DeepDIG）的方法，在决策边界附近通过生成样本来深入理解深度神经网络的工作机制和决策行为多方面特征。在多个数据集上进行了实验和测试。

Dec, 2019

深度学习初期数据几何效应

研究深度神经网络对非欧几里得数据集的表达能力，通过分析随机初始化的神经网络和线性边界区域等密度和距离等因素，推导出线性函数的表达形式和限制条件。

Dec, 2022

紧紧抱住我！辨别特征对深度网络边界的影响

通过在反向鲁棒性领域借鉴工具并提出一种新视角，本文关注了神经网络决策边界的特性，研究表明神经网络对非判别特征具有高度不变性，其决策边界必须在训练分类器中采用某些特征才能存在，并且决策边界的构建对训练样本的微小扰动极其敏感。

Feb, 2020