Feb, 2020

神经网络验证的 Lagrangian 分解

PDF
TL;DR通过 Lagrangian 分解，提出了一种新的神经网络验证方法，其在 GPU 上实施时可提供有效的结果，以推测最大化值的边界，并且可以随时停止，可用于推导形式化验证。
neural network verificationlagrangian decompositionbounds computationgpu implementationformal verification
发现论文，激发创造
  • 通过 Lagrangian 分解改进的神经网络验证分支定界算法

    本篇论文提出了基于 Lagrangian Decomposition 的 bounding 算法和一种新的基于 activation 的 branching 策略。这些新方法应用于 BaDNB 框架中，比以前的完整验证系统具有更快的效率和更高的可扩展性。

    Apr, 2021

  • 深度网络可扩展验证的双重方法

    本文提出了一种通用的神经网络形式验证框架，通过将验证问题转化为最优化问题，并通过我们提出的松弛算法得到可靠的上界，从而可对神经网络的输入和输出属性满足的规范进行形式化验证。

    Mar, 2018

  • 利用稀疏对偶算法扩展凸壳

    论文提出了两种新的双重算法来解决神经网络边界问题，这些算法可以更紧密地边界和验证神经网络，同时具有之前方法的优点，可以更高效地获得更好的验证结果。

    Jan, 2021

  • 自然语言处理中的对偶分解和 Lagrange 松弛推理教程

    本篇论文概述了 Lagrangian relaxation 的技术，介绍了应用该方法的示例算法以及在实现过程中的一些实际问题，并阐明了 Lagrangian relaxation 自然与广泛类的组合算法相结合，用于推理图形模型中的信息，在机器学习领域具有重要实际意义。

    Jan, 2014

  • 组合问题拉格朗日分解的双重升级框架

    提出了一种通用的双升算法框架来处理组合问题的 Lagrangean decomposition，表现出明显的效能优势，可用于图匹配和多切问题等多种应用。

    Dec, 2016

  • 利用拉格朗日对偶框架近似求解背包问题

    利用拉格朗日对偶框架改进约束满足度的神经网络模型来近似解决背包问题，实验结果表明在强约束满足度下减少了最优解性能的一些损失。

    Dec, 2023

  • 用 GPU 加速的机器学习模型验证在电力系统中的应用

    本文介绍了用于检验大规模机器学习模型的计算工具，重点解决了其应用到电力系统问题时出现的困难；作者提出了一种方法可同时验证多个验证问题，并使用双重化程序将线性等式和不等式约束编码到检验问题中。

    Jun, 2023

  • 预测混合整数线性规划的准确拉格朗日乘数

    采用图卷积网络的深度学习方法来优化通过拉格朗日松弛解决复杂约束的混合整数线性规划问题，通过训练编码器和解码器来最大化连续松弛和最佳拉格朗日界限之间的间隙，并提供一个高质量的下降启动点。

    Oct, 2023

  • FastDOG: GPU 上的快速离散优化

    本文提出一种基于广泛并行的拉格朗日分解方法，用于解决出现在结构化预测中的 0-1 整数线性规划问题。通过使用二叉决策图对子问题进行表示，我们的 GPU 实现改进了 Lange 等人 (2021) 算法的运行时间。

    Nov, 2021

  • 神经网络紧致鲁棒性验证的凸松弛屏障

    本文介绍一种基于凸松弛框架的神经网络强鲁棒性验证算法，通过大量实验发现该算法在已有松弛算法上并没有显著提高，提示了一类算法具有固有的严格验证难度。

    Feb, 2019