Oct, 2019

神经网络行为验证：电力系统应用的形式保证

PDF
TL;DR本文提出一种基于混合整数线性规划的框架，首次在电力系统应用中验证神经网络行为，能够确定神经网络分类为安全或不安全的输入范围，并且能够系统地识别对抗性示例，从而提高神经网络在电力系统中的鲁棒性和可靠性。
neural networkspower systemsverificationrobustnesssecurity
发现论文，激发创造
  • 神经网络的有效形式安全分析

    本文提出了一种有效的方法来严格检查神经网络的不同安全属性，可以检查不同的安全属性并找到具体的反例，比现有方法的性能提高了数个数量级，这种方法也有助于提高神经网络的可解释性并指导训练更加稳健的神经网络。

    Sep, 2018

  • 神经网络中的鲁棒性验证

    我们研究了神经网络计算的形式验证问题，探讨了其各种鲁棒性和最小化问题。我们提供了一个理论框架，使我们能够在神经网络中转换安全性和效率问题，并分析它们的计算复杂性。我们发现，在半线性设置中，对于分段线性激活函数和使用求和或最大度量时，大多数问题都属于 P 类或最多属于 NP 类。

    Mar, 2024

  • 分段线性神经网络验证的统一视角

    本文介绍了一种统一的深度学习模型形式验证的框架，利用分段线性结构和形式方法，结合现有方法的优势以实现两个数量级的加速。并提出了一组新的基准数据集，通过实验比较现有算法并确定影响验证问题难度的因素。

    Nov, 2017

  • 神经网络验证入门

    本书介绍了形式验证的基本概念及其在神经网络和深度学习中的应用，以保证其安全性、健壮性和正确性。

    Sep, 2021

  • 深度网络可扩展验证的双重方法

    本文提出了一种通用的神经网络形式验证框架，通过将验证问题转化为最优化问题，并通过我们提出的松弛算法得到可靠的上界，从而可对神经网络的输入和输出属性满足的规范进行形式化验证。

    Mar, 2018

  • 深度神经网络的神经符号验证

    文章介绍了一种基于神经网络和逻辑规范的神经符号验证框架 Neuro-symbolic Verification，使得现有的神经网络验证基础设施可用于分析复杂的实际特性，从而避免现有神经网络验证技术的严重局限。

    Mar, 2022

  • 利用深度神经网络的关键系统安全框架

    本文提出了一个基于贝叶斯分析的安全性论据框架，该框架使用运行数据和最新的深度学习验证技术，支持多种形式的预测，并针对实际的关键系统进行了建模和验证。

    Mar, 2020

  • 验证友好的深度神经网络

    提出了一种生成可验证的神经网络（VNNs）的新框架，该框架通过后训练优化在保留预测性能和鲁棒性之间取得平衡，使得生成的网络在预测性能方面与原始网络相当，并且可以进行验证，以更加高效地建立 VNNs 的强大性。

    Dec, 2023

  • 神经网络验证的基于抽象的框架

    本研究提出了一种通过使用过度逼近来减小神经网络规模，以提高神经网络验证技术的框架，并使用反例引导调整逼近，以验证大型神经网络。实验证明，该方法对验证大型神经网络具有很大的潜力。

    Oct, 2019

  • 神经网络自动验证：进展、挑战和展望

    本文讨论了神经网络在安全和保密方面应用的局限性，提出了一些自动推理技术来提供神经网络性能的保障，并且对现有的神经网络自动验证方法进行了综合分类和阐述，同时讨论了存在的局限性以及未来研究的方向。

    May, 2018