DelBugV: Delta-Debugging 神经网络验证器
该论文提出了一种名为 TheDeepChecker 的端到端基于属性的调试方法,以检测深度神经网络训练程序中的编码错误和系统失配,并表明其在检测准确性和深度学习故障覆盖面方面优于 Amazon SageMaker Debugger(SMD)的离线规则验证。
Apr, 2022
提出了一种生成可验证的神经网络(VNNs)的新框架,该框架通过后训练优化在保留预测性能和鲁棒性之间取得平衡,使得生成的网络在预测性能方面与原始网络相当,并且可以进行验证,以更加高效地建立 VNNs 的强大性。
Dec, 2023
该研究提出了一种基于新颖理论、数据结构和算法设计的增量和完全的 DNN 验证框架,旨在提高完全验证器在更新后的 DNN 上的验证效率。将其实现在名为 IVAN 的工具中,可以在 MNIST 和 CIFAR10 分类器上实现总体几何平均加速比为 2.4 倍,在 ACAS-XU 分类器上实现总体几何平均加速比为 3.8 倍。
Apr, 2023
本文介绍了一种基于 Imandra 的 DNN 验证证明检查器的新实现,该实现通过使用 Imandra 的两个关键功能:无限精度实数算术和形式化验证基础设施来提高数字稳定性和验证性能,并在实现验证正确性属性和性能优化方面继续开展工作。
Jul, 2023
深度神经网络验证技术的验证进展为 DNN 验证器的广泛应用开辟了道路,提出了在 Marabou DNN 验证器的基础上以 Imandra 为实现语言进行形式保证的 Marabou 证明检查算法的替代实现。
May, 2024
本文介绍了 VeriStable,一个基于 DPLL 算法的约束 DNN 验证方法的扩展,通过检测稳定的神经元来降低组合复杂性,提高抽象的准确性,同时利用多线程和重启优化来优化 DNN 的验证过程。在标准的 MNIST 和 CIFAR 数据集上的各种具有挑战性的基准测试中,初步结果表明 VeriStable 与 α-β-CROWN 和 MN-BaB 等最先进的 DNN 验证工具相比具有竞争力且表现优越。
Jan, 2024
深度神经网络在安全方面的正式验证问题已经扩展到计数版本 (DNN-Verification),为了在给定安全属性的领域中计算不安全区域的数量。为了解决这个问题的复杂性,本研究提出了一种基于可达性分析、符号线性松弛和并行计算的新策略,以增强现有的精确和近似 DNN 计数的形式验证的效率。在标准的形式验证基准和现实的机器人场景上进行的实证评估表明,在可扩展性和效率方面都取得了显著的改进,使得这种技术能够用于复杂的机器人应用。
Dec, 2023
本文介绍神经网络验证(NNV)软件工具,该工具为深度神经网络(DNN)和学习启用的控制系统(CPS)提供了一套基于集合的验证框架。NNV 的核心是一组可达性算法,这些算法利用了多种集合表示,例如,多面体、恒星集、zono topes 和抽象域表示。
Apr, 2020
本文提出一种名为 Deep Verifier Networks 的崭新框架,使用基于条件变分自编码器的深度生成模型验证深度判别模型的输入和输出,在结构预测任务中的异常检测取得了最新的研究结果。
Nov, 2019
通过深度学习加速芯片设计的调试过程,在硬件设计周期中生成出现故障的可能原因的解释,并突出显示潜在的故障源代码,实验表明其可实现对开源设计和不同类型注入故障的平均故障定位覆盖率为 82.5%。
Jan, 2024