May, 2024

深度神经网络验证的认证证明检查器

PDF
TL;DR深度神经网络验证技术的验证进展为 DNN 验证器的广泛应用开辟了道路，提出了在 Marabou DNN 验证器的基础上以 Imandra 为实现语言进行形式保证的 Marabou 证明检查算法的替代实现。
verificationdeep neural networksdnn verifiersproof checking algorithmimandra
发现论文，激发创造
  • 深度神经网络验证的认证证明检查器

    本文介绍了一种基于 Imandra 的 DNN 验证证明检查器的新实现，该实现通过使用 Imandra 的两个关键功能：无限精度实数算术和形式化验证基础设施来提高数字稳定性和验证性能，并在实现验证正确性属性和性能优化方面继续开展工作。

    Jul, 2023

  • 利用神经网络生成正确性证明

    本文提出了一个使用机器学习技术的证明搜索系统 Proverbot9001，它能够自动化之前需要手动完成的证明，有效地产生了 27.5% 的证明陈述，在 Coq 中产生了 4 倍的提高。

    Jul, 2019

  • 神经网络的增量验证

    该研究提出了一种基于新颖理论、数据结构和算法设计的增量和完全的 DNN 验证框架，旨在提高完全验证器在更新后的 DNN 上的验证效率。将其实现在名为 IVAN 的工具中，可以在 MNIST 和 CIFAR10 分类器上实现总体几何平均加速比为 2.4 倍，在 ACAS-XU 分类器上实现总体几何平均加速比为 3.8 倍。

    Apr, 2023

  • CheckINN：Imandra 中的宽范围神经网络验证（扩展版）

    本文介绍了如何使用 Imadra 编程语言和定理证明器来设计开发适用于神经网络验证的 CheckINN 库。

    Jul, 2022

  • 神经网络验证的基于抽象的框架

    本研究提出了一种通过使用过度逼近来减小神经网络规模，以提高神经网络验证技术的框架，并使用反例引导调整逼近，以验证大型神经网络。实验证明，该方法对验证大型神经网络具有很大的潜力。

    Oct, 2019

  • 验证友好的深度神经网络

    提出了一种生成可验证的神经网络（VNNs）的新框架，该框架通过后训练优化在保留预测性能和鲁棒性之间取得平衡，使得生成的网络在预测性能方面与原始网络相当，并且可以进行验证，以更加高效地建立 VNNs 的强大性。

    Dec, 2023

  • 验证深度神经网络的算法

    本文调查了最近出现的，从可达性分析、优化和搜索中获得的洞见的方法，以确保设计的深度神经网络满足特定的输入输出属性。 我们讨论了现有算法之间的根本差异和联系。 此外，我们提供了现有方法的教学实现，并在一组基准问题上进行了比较。

    Mar, 2019

  • 面向安全关键深度神经网络的可扩展验证

    本篇论文介绍了在安全重要应用领域中使用深度神经网络的问题，针对其可靠性和安全性的担忧，提出了采用形式化验证来保证其运行符合预期，并通过两个方向，即设计可扩展性的验证技术和识别可验证的深度学习系统的设计选择来缓解这一挑战。

    Jan, 2018

  • 利用浮点数数值误差攻击经过验证的神经网络

    本文研究神经网络的鲁棒性与验证算法，并指出精度舍入误差是不准确验证的根本原因，提出在验证系统中精确或保守地模拟网络推理或验证系统中任何浮点运算的效果是实现神经网络实用可靠验证的关键。

    Mar, 2020

  • 测试前向神经网络训练程序

    该论文提出了一种名为 TheDeepChecker 的端到端基于属性的调试方法，以检测深度神经网络训练程序中的编码错误和系统失配，并表明其在检测准确性和深度学习故障覆盖面方面优于 Amazon SageMaker Debugger（SMD）的离线规则验证。

    Apr, 2022