ICLRFeb, 2019

神经网络非线性规范的验证

PDF
TL;DR本文介绍在神经网络验证中如何利用凸松弛来证明一系列比较丰富的非线性规约，包括物理系统学习到的动力学模型的能量守恒，分类器的输出标签在对抗性扰动下的语义一致性以及预测手写数字求和的系统所包含的误差等，实验验证了该方法的有效性。
neural network verificationconvex-relaxable specificationsenergy conservationsemantic consistencybounding errors
发现论文，激发创造
  • 使用超属性验证全局神经网络规范

    本研究引入超属性形式主义，提供了表达全局规范的方法，可以通过利用验证通用计算图形的能力验证全局规范，从而扩大了使用现有方法提供的保证范围。

    Jun, 2023

  • 深度网络可扩展验证的双重方法

    本文提出了一种通用的神经网络形式验证框架，通过将验证问题转化为最优化问题，并通过我们提出的松弛算法得到可靠的上界，从而可对神经网络的输入和输出属性满足的规范进行形式化验证。

    Mar, 2018

  • 神经网络紧致鲁棒性验证的凸松弛屏障

    本文介绍一种基于凸松弛框架的神经网络强鲁棒性验证算法，通过大量实验发现该算法在已有松弛算法上并没有显著提高，提示了一类算法具有固有的严格验证难度。

    Feb, 2019

  • 神经网络中 S 形非线性函数的线性界限函数自动设计

    通过使用一种简单的搜索方法，精心地根据最先进的算法配置技术调整给定的验证问题，我们提出了一种新颖的参数搜索方法来改进这些线性逼近的质量，进而在几个常用的本地鲁棒性验证基准上平均提高了 25% 的全局下界。

    Jun, 2024

  • 通过内存高效的半定规划使验证无关网络实现认证

    该论文介绍了一种新的 SDP 算法，利用迭代特征向量方法将其各种操作表达为网络正反向传播。在 MNIST 和 CIFAR-10 数据集上的两个验证矢量网络中，将 L-inf 的验证鲁棒准确性从 1％提高到 88％和从 6％提高到 40％

    Oct, 2020

  • 凸松弛屏障的重新审视：用于神经网络验证的单神经元更紧凑的松弛方法

    我们通过一种新的被紧化的凸松弛优化算法来提高神经网络验证的效率，并针对 ReLU 神经元提出了一种新的凸松弛方案，使得我们在设计两种多项式时间算法，包括利用全面的松弛力量的基于线性规划的算法和快速传播算法时能够比类似算法更好地验证神经网络

    Jun, 2020

  • 神经网络中的鲁棒性验证

    我们研究了神经网络计算的形式验证问题，探讨了其各种鲁棒性和最小化问题。我们提供了一个理论框架，使我们能够在神经网络中转换安全性和效率问题，并分析它们的计算复杂性。我们发现，在半线性设置中，对于分段线性激活函数和使用求和或最大度量时，大多数问题都属于 P 类或最多属于 NP 类。

    Mar, 2024

  • 生成模型的鲁棒性认证

    本论文提出了一种可扩展的证明方法 ——ApproxLine，可用于验证涉及生成模型和分类器的非平凡规范，并提供有限的非凸集合或这些集合上的分布的确定性和概率保证。

    Apr, 2020

  • 分段线性神经网络验证的统一视角

    本文介绍了一种统一的深度学习模型形式验证的框架，利用分段线性结构和形式方法，结合现有方法的优势以实现两个数量级的加速。并提出了一组新的基准数据集，通过实验比较现有算法并确定影响验证问题难度的因素。

    Nov, 2017

  • 深度神经网络的神经符号验证

    文章介绍了一种基于神经网络和逻辑规范的神经符号验证框架 Neuro-symbolic Verification，使得现有的神经网络验证基础设施可用于分析复杂的实际特性，从而避免现有神经网络验证技术的严重局限。

    Mar, 2022