该研究提出了一种计算具有凸性 $p$- 范数的深度神经网络的点对点鲁棒性的新方法,算法 GeoCert 可以在复杂的神经网络中输出距离下界,且该方法比以前的方法更紧凑。
Mar, 2019
本文提出了一种在前馈神经网络中检查局部鲁棒性的快速程序,通过几何投影分析给定点周围区域内的决策边界以及将输入空间划分为凸多面体区域的方式,在高效同时保证准确性,解决了之前使用的不精确验证方法和全面验证者效果不佳的问题。
Feb, 2020
本文提出一种基于深度 ReLU 网络的攻击不可知的稳健性证书,用于多标签分类问题,通过利用 ReLU 网络的分段线性结构,提出了两个距离下界,分别为单纯形证书和决策边界证书,其中单纯形证书具有闭合形式,可微性和计算速度快的特点,并在 MNIST 数据集上验证其理论有效性。
Feb, 2019
本文介绍一种基于凸松弛框架的神经网络强鲁棒性验证算法,通过大量实验发现该算法在已有松弛算法上并没有显著提高,提示了一类算法具有固有的严格验证难度。
提出了一个可用于卷积神经网络的一般且高效的框架 CNN-Cert 以证明鲁棒性,它通过利用卷积层的特殊结构比现有算法快 17 倍到 11 倍,并且在获得相似或更好的证明上限和速度方面超越了最先进的算法。
Nov, 2018
通过解决凸松弛,可以证明神经网络对抗性示例的鲁棒性。最近,提出了一种基于半定编程松弛的较少保守的鲁棒性证明方法。本文提出一种几何技术,用于确定该 SDP 证书是否是精确的,并在单隐藏层下证明该证书的精确性,并验证其理论洞见。
Jun, 2020
本文提供了两种计算和证明最小失真非平凡下界的算法 Fast-Lin 和 Fast-Lip,可以用于解决具有 ReLU 结构的神经网络的鲁棒性问题。相比于现有的解决方法,这两种方法计算速度更快,下界的质量更高,同时作者还证明了除非 NP=P,否则无法用多项式时间算法求解最小的 l1 失真。
Apr, 2018
研究了神经网络分类器在安全关键系统中的应用,提出了一种对 ReLU 网络的正则化方案,使分类器的鲁棒性得到提升,并在实验中取得了较好的效果。
Oct, 2018
本文提出了一种广义线性可证明鲁棒性方法来学习深度 ReLU 分类器,通过考虑凸外似集合,去开发基于线性规划的强健优化程序,提出了一种类似于反向传播网络的方法,以很高效的方式产生能够保证鲁棒性损失的优化方法,并展示了该方法在多项任务中的应用。
Nov, 2017
研究通过 GeoRobust 在深度神经网络上实现几何变换的鲁棒性分析,并提供了基于 Lipschitz 理论的最坏情况变换证明保证。我们还发现,在 ImageNet 分类器上,增加深度比增加宽度更有益于提高网络的几何鲁棒性。
Jan, 2023