从感知到程序:正则化、过度参数化和资瓷化
本文介绍一种用于程序自动合成的方法,通过结合模式识别和显式推理来解决这些复杂的编程问题,同时使用新颖的中间表示和训练算法,使程序合成系统能够自学,从而在简单的英文描述编程问题数据集上取得了最先进的性能表现。
Feb, 2019
本文提出了一种神经符号框架,用于混合感知和程序推理算法任务的终身学习,介绍了一种结合了梯度下降和程序组合搜索的程序合成方法,并在三个基准测试中评估了其性能。
Mar, 2018
本文提出了一种 Neuro-Symbolic Program Synthesis 技术,通过计算机程序自动构建特定领域的语言。我们通过使用两种新颖的神经模型,交叉相关的 I/O 网络和递归反向递归神经网络,证明了该方法的有效性。
Nov, 2016
通过神经符号表示以及基于抽象解释衍生的执行模型,我们提供了一种表示部分程序的一般技术。这种技术可以帮助程序综合引擎在寻找程序解决方案时使用更强大的语言结构,从而在给定的搜索预算内更准确地综合程序。
Dec, 2020
从少数示例中抓取灵活的视觉概念。我们探索了一种神经符号系统,该系统学习如何推断以通用方式捕捉视觉概念的程序。我们引入了模板程序:来自特定领域语言的程序表达式,用于指定输入概念中的结构和参数模式。我们的框架支持多个与概念相关的任务,包括通过解析进行少数示例生成和共分割。我们开发了一种学习范式,使我们能够从包含概念分组的视觉数据集中直接训练推断模板程序的网络。我们在多个视觉领域进行实验:2D 布局,Omniglot 字符和 3D 形状。我们发现我们的方法优于特定任务的替代方案,并在存在有限领域特定方法的领域中表现出有竞争力。
Mar, 2024
以输入输出样本为基础的黑盒组件,ISED 算法通过学习神经程序的方式来估计深度神经网络参数,其性能与最先进的神经符号框架相媲美,并且在使用先前的工作基线的情况下,以更高的数据和样本效率达到了类似的准确性。
Jun, 2024
本研究提出了一种新颖的神经程序模型(Neural Programmer),该模型扩展了具有少量基本算术和逻辑运算的不可区分神经网络,此模型可以在多个步骤中调用这些扩展操作,因此产生的组成程序比内置操作更复杂。该模型采用相对较弱的监督信号进行训练,不需要昂贵的编写正确程序的注释,经过训练在很复杂的综合表理解数据集中取得了几乎完美的准确度。
Nov, 2015
提出一种神经网络引导的程序和不变量综合框架,其利用设计和训练神经网络提取出训练神经网络权重和偏置值上的整数逻辑公式,并用于正 / 反例和蕴含约束的公式合成,具有很好的实验结果,并在 ICE-learning-based CHC 求解、程序验证和归纳不变量合成等方面有重要应用。
Mar, 2021