- 基于真值表的可扩展、可解释、可验证、可微分逻辑门卷积神经网络结构
本论文提出了一种名为 Truth-Table Net(TTNet)的卷积神经网络结构,该结构通过设计解决了可解释性、形式验证和逻辑门转换等难题,并在多个数据集上显示出与决策树可比的可解释性、快速完整合规验证和可扩展的逻辑门表示。
- 无限时间马尔可夫决策过程解决方案的形式验证方法
本文利用交互式定理证明器 Isabelle/HOL,对于解决马尔科夫决策过程(MDPs)的可执行算法进行正式验证,并基于此分析验证动态规划算法来解决表格 MDPs,实验结果表明该系统可以与最先进的系统竞争甚至超过它们。
- 利用大型语言模型进行自动形式化
本文研究了自动形式化的过程,并发现大型语言模型可用于将自然语言的数学问题翻译为 Isabelle/HOL 的形式化说明,证明了这种方法的实用性,并通过训练预先介绍的神经定理证明器使改进了 MiniF2F 定理证明基准的证明率从 29.6% - 证明助手中的自然语言规格说明
通过在交互证明助理中引入自然语言规范支持,可以在验证软件正确性的同时保证规范翻译的正确性和可审计性。
- 神经网络中毒性验证
本文研究了数据毒化这一神经网络安全问题,使用现有验证工具如 Marabou 和 nneum,将问题表达为可验证的属性,并证明了所发现触发器可以从小模型转移到更大的性能先进的图像分类模型上。
- 基于 GNN 的工作调度程序的可扩展验证
本文针对基于 GNN 的作业调度器在满足性能方面表现卓越的同时,关注其是否满足用户在战略稳健性、共享激励和稳定性等其他重要特性方面的期望,提出了一种用于验证 GNN 作业调度器的通用框架 vegas,并通过实验证明其比之前的方法更快速且更为 - 深度神经网络的神经符号验证
文章介绍了一种基于神经网络和逻辑规范的神经符号验证框架 Neuro-symbolic Verification,使得现有的神经网络验证基础设施可用于分析复杂的实际特性,从而避免现有神经网络验证技术的严重局限。
- 深度强化学习的验证性概率策略
本研究提出了一种基于 Markov 决策过程、混合整数线性规划、熵式细化和概率模型检验的抽象方法,用于验证深度强化学习中的概率策略,并在一些强化学习基准测试上验证了其有效性。
- AAAI神经网络超马丁格尔稳定性检验在随机控制系统中的应用
我们提出了一种使用 Ranking Supermartingales(RSMs)证明绝大多数(a.s.)渐进稳定性的方法,同时还提出了一种学习神经网络 RSMs 的方法。我们的方法保证系统的 a.s. 渐进稳定性,并首次提供了获得稳定时间上 - 神经网络验证入门
本书介绍了形式验证的基本概念及其在神经网络和深度学习中的应用,以保证其安全性、健壮性和正确性。
- PRIMA: 通过可扩展的凸包逼近实现通用和精确的神经网络认证
本文介绍了一个名为 PRIMA 的新验证框架,它可以处理任何非线性激活函数,通过利用来自计算几何的新型凸包逼近算法计算多个神经元的精确凸性抽象,能够比现有技术更精确地验证 ReLU、Sigmoid 和 Tanh 网络,并且有助于实现对自动驾 - DeepCert: 神经网络图像分类器的上下文相关鲁棒性验证
DeepCert 是一种通过支持真实世界图像扰动的编码和系统评估上下文相关的 DNN 鲁棒性以及通过生成上下文相关反例选择适合操作环境的 DNN 图像分类器的工具,可用于验证 DNN 图像分类器的健壮性。
- ICLR快速且完整:使用快速且大规模并行的不完全验证器实现完整神经网络验证
使用反向模式线性松弛基于摄动分析来替代线性规划,在机器学习加速器上实现快速的神经网络形式验证,并通过快速梯度基础收紧过程的结合,有效地使用了 LiRPA。
- IJCAI在 Isabelle/HOL 中更快更智能的归纳
通过引理归纳在正式验证和数学中发挥了关键作用,但其自动化仍然是计算机科学中长期存在的问题,使用定义量词我们开发了 sem_ind,它可以推荐需要通过归纳予以验证的参数
- MMASP 中的多智体认知规划建模
本文介绍了一种基于声明式编程技术的多智能体认知情境下的推理问题的解决方案,即 PLATO(基于 ePistemic 多智能体 Answer Program 解决方案),利用自定义认知状态表征和 ASP 求解器的效率,在从文献中收集的基准测试 - MM模块化答案集编程作为正式规范语言
本篇论文研究了 ASP 的形式验证问题,通过使用基于 ASP 模块的形式化规范语言,将 ASP 模块与问题实例正确地相对应,从而证明了逻辑程序 P 的正确性,这种模块化的规范语言包含了可能嵌套的一阶程序模块,可以在不同层次上包含本地隐藏原子 - 关于二元神经网络可计算性表示的研究
本文研究了如何将一个二进制神经网络的决策函数编译成可行的表示形式,如有序二进制决策图和命题决策图,并讨论了使用这些表示形式来验证神经网络的鲁棒性和计算期望鲁棒性的方法。此外,本文还提出了一种基于伪多项式时间算法编译单个神经元的高效方法,并在 - 神经网络验证的 Lagrangian 分解
通过 Lagrangian 分解,提出了一种新的神经网络验证方法,其在 GPU 上实施时可提供有效的结果,以推测最大化值的边界,并且可以随时停止,可用于推导形式化验证。
- 神经网络验证的神经网络分支
通过训练图神经网络来设计一个有效的分支策略,能够在形式化验证神经网络的过程中减少验证时间并获得更好的验证结果。
- EMNLP通过区间传播实现对符号替换的可验证鲁棒性
本文提出了一种解决 NLP 系统鲁棒性问题的方法,通过形式化验证系统对先前已定义的对抗攻击的稳健性,使用 基于区间边界传播法的模型验证方法模拟离散文本扰动,改进对数似然训练目标训练模型,该方法能够有效地验证模型,并保证模型在最坏情况下的鲁棒