大规模神经网络几何鲁棒性的验证

Jan, 2023

大规模神经网络几何鲁棒性的验证

Towards Verifying the Geometric Robustness of Large-scale Neural Networks

Fu Wang, Peipei Xu, Wenjie Ruan, Xiaowei Huang

TL;DR研究通过 GeoRobust 在深度神经网络上实现几何变换的鲁棒性分析，并提供了基于 Lipschitz 理论的最坏情况变换证明保证。我们还发现，在 ImageNet 分类器上，增加深度比增加宽度更有益于提高网络的几何鲁棒性。

Abstract

deep neural networks (DNNs) are known to be vulnerable to adversarial geometric transformation. This paper aims to verify the robustness of large-scale DNNs against the combination of multiple geometric transformations with a provable guarantee. Given a set of transformations (e.g., ro

deep neural networks adversarial geometric transformation georobust lipschitzian theory resnet

发现论文，激发创造

深度网络的几何鲁棒性：分析与提升

本文提出了一种简单且可扩展的算法 ManiFool，用于测量深度神经网络对于几何变换的不变性，进而提出了一种新的对抗训练方案以提高深度神经网络的不变性。

Nov, 2017

几何感知深度变换

该文章提出了一种新的深度学习目标公式，在小训练集合的情况下能够使得其学习到的深层网络具有较好的泛化能力，同时介绍了一种基于几何感知的深度转换技术，从而实现了非线性、具有鲁棒性的特征转换，该方法在合成和真实数据方面表现良好，并支持所提出的框架使用 (K,ε)- 鲁棒性分析。

Sep, 2015

探索空间健壮性景观

研究神经网络分类器对旋转和平移的脆弱性，探索使用鲁棒优化和测试时间输入聚合的思想来提高鲁棒性，并发现一阶方法无法可靠地找到最坏情况的扰动。

Dec, 2017

为深度神经网络认证全局稳健性

通过利用 PAC 验证框架和统计方法，本研究提出了一种对深度神经网络进行全局鲁棒性评估和验证的高效方法，该方法在评估全局鲁棒性的同时能够有效地找出稀有和多样化的对抗训练的反例。

May, 2024

探索深度神经网络的语义鲁棒性

本文提出了一种理论上有根据的方法来分析深度神经网络（DNNs）在语义空间中的稳健性，主要是通过基于优化积分界限表达的方法来定量评估不同网络结构的语义稳健性。通过实验证明，尽管 InceptionV3 比 ResNet50 具有更高的准确度，但其在语义鲁棒性上不如后者。

Apr, 2019

深度神经网络的特征层级增强提高仿射变换鲁棒性

本文提出了在中间神经网络层引入数据增强以改善卷积神经网络不适用于少量像素旋转或平移的问题，并证明该方法比已有的两种方法获得更好的精度和平均翻转比。

Feb, 2022

分类器对于通用扰动的稳健性：几何视角

本文通过理论分析和几何方法，探究深度神经网络在面对普适性扰动时的稳健性，并揭示了决策边界几何形态（平坦或曲线）与稳健性之间的关系，证明了在正曲率方向上存在共享决策边界的情况下，存在极小的普适性扰动。

May, 2017

优化与抽象：一种协同分析神经网络鲁棒性的方法

本文提出了一种用于验证神经网络鲁棒性的新算法 Charon，并通过实验评估其在数百个基准测试中显著优于 AI^2，Reluplex 和 Reluval 等三种最先进的工具。

Apr, 2019

全局鲁棒神经网络

通过在网络中加入全局 Lipschitz 边界，文中提出的方法可以快速训练大型强健的神经网络，实现了可证明的最先进的可验证准确性。同时，该方法比最近的可证方法需要的时间和内存少得多，并在在线认证时产生可忽略的成本。

Feb, 2021

使用 Z3 进行 FNN 全局鲁棒性的形式建模和验证

本篇论文提出了一种称之为 DeepGlobal 的全局稳健性验证框架，通过利用 SMT 求解器 Z3 进行实现并进行多重改进，来评估该框架在一系列基准数据集上的有效性和可行性。

Apr, 2023