现实世界分类任务中的神经符号规则学习
本文提出了一种完整的神经符号方法,用于以端到端的方式将图像处理为对象,并在学习关系和逻辑规则方面。主要贡献是以可微分层为基础,从而可以通过剪枝和阈值确定符号关系和规则。我们使用两个数据集进行模型评估:符号规则学习的子图同构任务和学习对象,关系和规则的复合关系的图像分类域。结果表明,该模型超越最先进的符号学习者并优于深度关系神经网络架构。
Jun, 2021
本文提出了一种新的范式,使用一个可解释的二层神经网络学习一组独立的逻辑规则作为分类的模型,并提出一种基于稀疏性的规则得出算法,相比其他学习算法和黑匣子模型,该方法可以在分类准确性和简单性之间取得更好的平衡。
Mar, 2021
本文提出以布尔规则为基础的分类方法,并通过基于整数规划和 Hamming 距离的算法,寻求简单分类规则和分类准确性之间的平衡,实现优于一级规则的分类效果。
Nov, 2015
NeuralFastLAS 是一种可扩展且快速的端到端方法,能够联合训练神经网络和符号学习器,实现在任务中找到最优符号解的能力,并提供了理论结果和实验验证。
Oct, 2023
描述了一种基于机器学习的方法,用于给定多个输入变量的值来预测实值函数的值,并引出了一种规则决策模型,经实验证明其与现有的机器学习和统计方法具有竞争力并且有可能表现更好的回归性能。
Dec, 1995
我们提出了一种新颖的方法,将专家知识纳入深度神经网络的训练中,并将领域知识表示为易于编码和从人类专家那里引出的析取范式逻辑公式。该方法引入了一个分类潜变量来学习选择哪个约束项最优化网络的误差函数,并将约束条件直接编译到现有学习算法的输出中。我们在几个经典的深度学习任务中实证了该方法的功效,结果表明 MultiplexNet 方法能够良好地逼近未知的分布,通常需要比其他方法更少的数据样本,并且在某些情况下,具有比其他方法更好的解决方案。
Nov, 2021
本文介绍了一种新颖的通用神经网络结构 DN F-Net,其归纳偏差促使其结构对应于包含于仿射软阈值决策项上的逻辑布尔公式的析取范式(DNF)。我们的实验证明,相对于全连接结构,在表格数据上,DNF-Net 取得了显著而一致的性能提升,证明了其在神经网络中实现端到端的表格数据处理的潜在用处。
Jun, 2020
本文介绍了一种基于子模优化的学习规则集的方法,将子问题转化为特征子集选择任务并利用子模函数差值的思想使得问题更易解决,实验结果表明这种方法简单、可扩展且具有较好效果。
Jun, 2022
本文提出了一种名为 Deep Symbolic Learning(DSL)的神经符号集成系统,它可以同时学习感知和符号函数,并且能够在可微分的神经网络学习管道中创建内部(可解释的)符号表示,以最好的方式解释数据。
Aug, 2022
介绍了一种新的神经符号结构用于关系分类,结合了基于规则的方法和现代深度学习技术,通过语义文本匹配增强规则泛化能力,该方法在两个 few-shot 关系分类数据集上的评估中,表明在四个设置中有三个的性能优于之前的最先进模型。
Mar, 2024