Concordia 并行神经符号一体化
本文探讨了深度神经网络存在的一些局限性,以及最近兴起的神经符号混合系统如何整合符号推理并提出改进方法,将通用注释逻辑扩展为一个基于离散优化的二值化神经网络,提供了可行性证明,并讨论了实现该框架面临的挑战。
Feb, 2023
深度学习在自然语言处理 (NLP) 任务中取得了显著进展,本研究提出了一种神经符号学习方法,将符号主义和连接主义两种人工智能学派相结合,通过强化学习或其弱化版本在下游任务中实现具有符号潜在结构的神经系统的弱监督推理。该框架已成功应用于表格查询推理、句法结构推理、信息抽取推理和规则推理等各种任务。
Sep, 2023
我们提出了一种新的用于有命题背景知识的监督多标签分类的形式化方法,称为推理中的语义调整,其在推理过程中限制系统而不影响训练,相比于另外两种常见的神经符号技术(语义调整和语义正则化),我们讨论了其在理论和实际上的优势,并开发了一种新的多尺度方法来评估神经符号技术的好处随着网络规模的演化,通过对多个数据集的实验和比较,我们的结果表明,推理中的语义调整可以用于构建更准确的基于神经网络的系统,使用更少的资源,并确保输出的语义一致性。
Feb, 2024
本文介绍了一个基于强化学习和内省修订的神经符号自然逻辑框架,通过策略梯度对特定推断路径进行采样和奖励,并利用外部知识缓解虚假推理和训练低效问题。该模型具有内在的可解释性,在单调性推理、系统泛化和可解释性方面表现出优越能力,相对于先前的模型在现有数据集上表现更好。
Mar, 2022
神经符号 AI 旨在将深度学习与符号 AI 相结合,以减少训练神经网络所需的数据量,提高模型给出答案的可解释性和可解性,并验证经过训练的系统的正确性。我们研究神经符号学习,既有使用符号语言表示的数据,也有背景知识。通过模糊推理、概率推理以及训练神经网络来连接符号和神经组件,以交流这一知识。
Jan, 2024
本文提出了一种名为 Deep Symbolic Learning(DSL)的神经符号集成系统,它可以同时学习感知和符号函数,并且能够在可微分的神经网络学习管道中创建内部(可解释的)符号表示,以最好的方式解释数据。
Aug, 2022
我们提出了一个用于回答不完整知识图谱上任意合取查询的框架,该方法通过无限树状查询的系列来近似循环查询,并利用现有模型进行近似处理。经验证明,我们的近似策略取得了有竞争力的结果,并且包含存在量词变量的查询倾向于改善这些模型的整体性能,无论是对树状查询还是对我们的近似策略。
Oct, 2023
我们提出了一种新的框架,无缝提供神经网络(学习)和符号逻辑(知识和推理)的关键属性,每个神经元都有权重实值逻辑公式的组成部分,得到了高度可解释的分离表示,推理是全向的而不是集中在预定义的目标变量上,对应于逻辑推理,包括经典的一阶逻辑定理证明作为特殊情况。
Jun, 2020
深度学习与神经符号整合是解决深度学习普适性和推理任务的挑战,通过预训练神经模型并通过迁移学习注入感知部分的权重,可以改善当前神经符号方法中的收敛速度、复杂感知任务的学习难度和局部最小值问题。
Feb, 2024