Oct, 2017

通过神经元因数分解验证二值化神经网络

PDF
TL;DR本研究探讨了二值化神经网络的形式验证问题，并使用硬件验证的约减方法对其进行了验证，通过证明找到最优 factor（因数）的 NP - 难度和 PTAS 可近似难度，设计出了多项式时间搜索启发式解法来生成因数解，整个框架可以应用于具有数千个神经元和输入的嵌入式设备的中等规模 BNN 的验证技术。
formal verificationbinarized neural networksenergy-efficienthardware verificationpolynomial-time search heuristics
发现论文，激发创造
  • 二元神经网络属性验证的混合整数规划方法

    利用混合整数规划公式验证二值化神经网络 (BNN)，检查其可行性、MNIST 数据集和飞机冲突避免控制器中的性质，并证明相较于全精度神经网络的最先进的验证算法，通过验证 BNN 节省的时间是值得的。

    Mar, 2022

  • 二值化神经网络的高效精确验证

    本文提出了一种基于 Binarized Neural Networks（BNNs）的验证技术（EEV），可以具有可比较的鲁棒性，并且通过使用一种策略来训练鲁棒性 BNNs，可以实现更快，更准确的验证。EEV 有效，通过在 MNIST 和 CIFAR10 数据集上展示非平凡卷积 BNN 的 L-inf-bounded 对抗性鲁棒性的首个确切验证结果可以进行性能优化。

    May, 2020

  • 贝叶斯神经网络中概率鲁棒性的严格验证

    我们介绍了两种算法，用于计算贝叶斯神经网络（BNNs）的概率鲁棒性的严格保证。

    Jan, 2024

  • 可扩展验证的深度二元强化学习

    使用二值化神经网络 (BNNs) 的强化学习算法以提高可验证性的方法，解决了神经网络在安全关键场合应用上不可靠的问题。在训练 Atari 环境中的 BNNs 之后，我们验证了其鲁棒性属性。

    Mar, 2022

  • 验证二值化深度神经网络属性

    本研究提出一种使用布尔可满足性对深度神经网络的属性进行验证的严格方法，并构建了一种创建二元化神经网络布尔公式的表示方法来验证其强健性，是深度神经网络验证方面的一项重要贡献。

    Sep, 2017

  • 二值化神经网络

    本文介绍了一种对二值化神经网络进行训练的方法，并在 Torch7 和 Theano 两个框架下，对 MNIST、CIFAR-10 和 SVHN 数据集进行了实验，取得了近乎领先水平的结果。通过在前向传递过程中使用二值化的权重和激活值，可以大幅减少内存消耗，用位运算取代大多数算术运算，并且使用二进制矩阵乘法 GPU 内核可以比未优化的 GPU 内核快 7 倍，而不会损失分类准确度。

    Feb, 2016

  • 神经网络中的鲁棒性验证

    我们研究了神经网络计算的形式验证问题，探讨了其各种鲁棒性和最小化问题。我们提供了一个理论框架，使我们能够在神经网络中转换安全性和效率问题，并分析它们的计算复杂性。我们发现，在半线性设置中，对于分段线性激活函数和使用求和或最大度量时，大多数问题都属于 P 类或最多属于 NP 类。

    Mar, 2024

  • 验证友好的深度神经网络

    提出了一种生成可验证的神经网络（VNNs）的新框架，该框架通过后训练优化在保留预测性能和鲁棒性之间取得平衡，使得生成的网络在预测性能方面与原始网络相当，并且可以进行验证，以更加高效地建立 VNNs 的强大性。

    Dec, 2023

  • 分段线性神经网络验证的统一视角

    本文介绍了一种统一的深度学习模型形式验证的框架，利用分段线性结构和形式方法，结合现有方法的优势以实现两个数量级的加速。并提出了一组新的基准数据集，通过实验比较现有算法并确定影响验证问题难度的因素。

    Nov, 2017

  • 分支定界用于分段线性神经网络验证

    研究了深度学习的形式验证以及提出了一种基于分支定界的族算法，并提出了新型的组合方法，以及新的有效的分支策略，将之用于高维输入上的问题，并提出包含以前发布的测试案例的全面测试数据集和基准测试。

    Sep, 2019