可扩展神经概率答案集规划
SLASH 是一种新型的深度概率编程语言,基于神经概率谓词和逻辑程序相结合,实现了神经元素和符号元素的融合,在 MNIST 加法、缺失数据预测和集合预测等任务中表现出卓越的性能和通用性。
Oct, 2021
我们提出了 dPASP,一种新颖的声明性概率逻辑编程框架,用于可微的神经符号推理。该框架允许使用神经谓词、逻辑约束和区间值概率选择来指定离散概率模型,从而支持低级知觉(图像、文本等)、常识推理和(模糊的)统计知识的模型。我们讨论了可以表达非确定性、矛盾、不完整和 / 或统计知识的概率逻辑程序的多种语义。我们还讨论了在选定语义下如何使用神经谓词和概率选择进行基于梯度的学习。然后,我们描述了一个实现了推理和学习功能的软件包,并提供了几个示例程序。该软件包对深度学习系统内部工作的用户知识要求很少,同时允许端到端地训练相当复杂的模型和损失函数。
Aug, 2023
DeepSeaProbLog 是一种神经概率逻辑编程语言,将深度概率编程技术融入了神经符号人工智能中,支持在逻辑约束下学习和推理离散和连续概率分布。
Mar, 2023
NeurASP 是一种简单的扩展答案集程序的方法,它综合了神经网络的子符号计算和符号计算。它可以利用预训练的神经网络进行符号计算并通过应用答案集程序中的符号推理来提高神经网络的感知结果。此外,通过使用 ASP 规则训练神经网络,它还可以从规则表达的复杂语义约束中学习,以便神经网络不仅可以从数据的隐式相关性中学习,还可以从规则表达的显式约束中学习。
Jul, 2023
概率逻辑编程领域集中在将概率模型整合到基于逻辑的编程语言中。我们提供了一个统一的代数逻辑编程视角,表明大部分概率逻辑编程的扩展都可以在一个共同的代数逻辑编程框架中加以表述,其中事实用半环的元素标记,而析取和合取用加法和乘法替代。这不仅适用于概率逻辑编程的变体本身,还适用于基于(代数)模型计数的底层执行机制。
Feb, 2024
DeepProbLog 是一种神经概率逻辑编程语言,通过神经谓词结合深度学习。它支持符号和子符号表示和推断、程序归纳、概率编程和深度学习,并结合了通用神经网络和表达式概率逻辑建模和推理。
Jul, 2019
设计了一个语义概率层,可以将其插入到任何神经网络中,保证其预测与一组预先定义的符号约束一致,以此来预测结构化输出,它能够模拟复杂的相关性和硬约束,实现最大似然的端到端学习,对于其他神经符号方法无法处理的结构化输出任务,SPL 的效果要好得多,并且能够满足完美的约束条件。
Jun, 2022
研究发现,虽然有已有的可扩展离散随机变量的分布语义和 PLP 语言及标准推理引擎,但是对于混合离散和连续随机变量的声明性语义还不够普及,因此本文提出了混合分布语义和混合 PLP 语言 DC-ProbLog 及其基于知识编译的推理引擎 infinitesimal algebraic likelihood weighting (IALW),这是第一个基于知识编译的混合概率编程推理算法。
Feb, 2023
我们提出了概率神经程序 —— 一个编程归纳框架,它允许灵活指定计算模型和推断算法,同时启用深度神经网络。概率神经程序将用于指定神经网络的计算图与加权非确定性选择操作符结合起来,从而既描述了一组决策,又描述了用于做出每个决策的神经网络架构。我们在一个具有挑战性的图表问答任务上评估了该方法,发现相对于基线模型,概率神经程序可以正确执行近两倍的程序。
Dec, 2016
本研究提出了一种新的概率神经符号模型,其拥有作为潜在随机变量的符号功能程序,并在视觉问题回答的背景下实例化,相比之前的神经符号模型,我们的模型提供了两个关键概念上的优势,第一,我们的模型生成的程序更易理解,需要较少的教学示例; 第二,我们展示了我们可以向该模型提出反事实情景,来探究其对于给定图像可以导致特定答案的程序的信念,我们对 CLEVR 和 SHAPES 数据集的结果验证了我们的假设,在低数据情况下,模型具有更好的方案(和答案)预测准确性,并允许人们探究所执行推理的连贯性和一致性。
Feb, 2019