神经引导的约束逻辑编程用于程序合成
本文介绍了神经引导演绎搜索(NGDS)技术,应用于编写用户意图程序的问题,结合了符号逻辑技术和统计模型,通过演绎搜索框架来学习神经网络组件,以找到最适合提供的规范的程序,并在真实客户场景中验证其实用性。
Apr, 2018
DeepProbLog是一种神经概率逻辑编程语言,通过神经谓词结合深度学习。它支持符号和子符号表示和推断、程序归纳、概率编程和深度学习,并结合了通用神经网络和表达式概率逻辑建模和推理。
Jul, 2019
本文提出了一种新的归纳逻辑编程(ILP)系统Brute,利用基于示例的损失函数来引导搜索,该方法可以帮助Brute在机器人规划、字符串转换、ASCII艺术等不同的程序综合领域中显著优于现有的ILP系统,学习程序的大小也比现有的最先进系统增加了20倍。
Apr, 2020
提出一种神经网络引导的程序和不变量综合框架,其利用设计和训练神经网络提取出训练神经网络权重和偏置值上的整数逻辑公式,并用于正/反例和蕴含约束的公式合成,具有很好的实验结果,并在ICE-learning-based CHC求解、程序验证和归纳不变量合成等方面有重要应用。
Mar, 2021
本文介绍一种采用经典分治搜索和现代约束驱动搜索相结合的归纳逻辑编程方法,可以学习最优、递归和大型程序,支持谓词发明,并在三个领域的实验中展示了该方法可以提高预测准确性和缩短学习时间。
Sep, 2021
我们提出了一种新的自动定理证明方法,其中使用AlphaZero风格智能体自我训练来改进表达为非确定性程序的通用高级专家策略,同时具有类似的教师代理机自我训练来生成适当相关性和难度的任务以供学习者解决,利用最小领域知识来解决合成训练数据不可用或难以合成的问题,具体举例来说,我们考虑了用于命令程序的循环不变量合成,并使用神经网络来改进教师和求解策略。
May, 2022
该论文提出了一种新颖的神经层,LogicMP,它的层对一个MLN执行均场变分推理,可以插入到任何现有的神经网络中以编码FOLCs,同时保持模块化和高效性。利用MLNs中的结构和对称性,我们理论上证明了我们设计良好的高效均场迭代有效地缓解了MLN推断的困难,将推断从顺序计算减少为一系列并行张量操作。在图形、图像和文本的三种任务中的实证结果表明,LogicMP在性能和效率上胜过其他先进的竞争对手。
Sep, 2023
该论文研究了神经网络与逻辑编程的整合,解决了将神经网络的泛化和学习能力与符号逻辑的精确性相结合的难题。为了克服这些问题,引入了一种名为COOL(Constraint Object-Oriented Logic)编程语言的创新方法,将逻辑推理与神经网络技术无缝结合起来,并通过自动处理数据收集、减少欠训练风险的用户提示以及增强模型之间的交互来促进网络的重用和扩展。此外,COOL的设计和编译系统中的基本原理和算法可以为未来编程语言和神经网络架构的发展提供宝贵的启示。
Nov, 2023
基于神经网络的机制可解释性自动合成方法MIPS,将学习到的算法自动转化为Python代码,解决了62个可以由RNN学习的算法任务中的32个问题,并对GPT-4的补充具有高度互补性,且不使用人工训练数据。
Feb, 2024