超越传统神经网络:通过计算逻辑技术实现推理与学习能力的增加
本文探讨了神经符号计算技术中深度学习和知识表示应该如何有机结合,通过 20 年来的相关研究结果,为下一个 AI 系统的关键性成分做出探索,以神经符号系统的视角提出 AI 技术应该在信任、安全、可解释性和问责制方面有所提升和解决的方向和挑战。
Dec, 2020
深度学习在自然语言处理 (NLP) 任务中取得了显著进展,本研究提出了一种神经符号学习方法,将符号主义和连接主义两种人工智能学派相结合,通过强化学习或其弱化版本在下游任务中实现具有符号潜在结构的神经系统的弱监督推理。该框架已成功应用于表格查询推理、句法结构推理、信息抽取推理和规则推理等各种任务。
Sep, 2023
这篇论文调查了在图结构上执行神经符号推理任务的广泛方法,并提出了一个新的分类法来比较这些方法,包括基于逻辑推理嵌入方法、施加逻辑约束的嵌入方法和规则学习方法。此外,还提供了一个表格概述这些方法。
Feb, 2023
本文介绍了一种名为 Logic Tensor Networks(LTN)的神经符号形式和计算模型,支持通过引入一种称为 Real Logic 的可微分一阶逻辑表示语言进行学习和推理,并说明 LTN 提供了一种统一语言来规范和计算多个人工智能任务。
Dec, 2020
人工智能的快速发展,特别是通过深度神经网络,已经在视觉和文本处理等领域取得了显著进展。但是,实现人类类似的推理和可解释的人工智能系统仍然面临重大挑战。神经符号学范式将神经网络的深度学习能力与符号系统的推理能力结合起来,提供了开发更透明和可理解的人工智能系统的有希望途径。本文探讨了基于知识图谱的神经符号一体化的最新进展,阐明了知识图谱在三个关键类别中支撑着这种一体化:通过引入符号知识来增强神经网络的推理和可解释性(Symbol for Neural),通过神经网络方法来提高符号系统的完整性和准确性(Neural for Symbol),以及促进两者在混合神经符号一体化中的应用。本文强调了当前的趋势,并提出了神经符号人工智能领域未来研究的方向。
May, 2024
本文综述了神经符号计算作为一种将机器学习和推理集成在一起的原则方法,并通过笔者的主要特点,如神经学习与符号知识表达和推理的原理集成,证明了其作为一个可解释的 AI 系统的构建方法的有效性。神经符号计算为我们提供了关于越来越显著的可解释性和负责任的 AI 系统的重要见解。
May, 2019
本研究采用最新的深度神经网络训练方法,成功开发出了一种模型,可以学会在基本本体论推理的形式下有效地进行逻辑推理,进而可以应用于许多现实世界中的问题,并且在各项实验中表现出高度准确和生物学上的可行性。
Aug, 2018
深度学习与神经符号整合是解决深度学习普适性和推理任务的挑战,通过预训练神经模型并通过迁移学习注入感知部分的权重,可以改善当前神经符号方法中的收敛速度、复杂感知任务的学习难度和局部最小值问题。
Feb, 2024
我们提出了一种新的用于有命题背景知识的监督多标签分类的形式化方法,称为推理中的语义调整,其在推理过程中限制系统而不影响训练,相比于另外两种常见的神经符号技术(语义调整和语义正则化),我们讨论了其在理论和实际上的优势,并开发了一种新的多尺度方法来评估神经符号技术的好处随着网络规模的演化,通过对多个数据集的实验和比较,我们的结果表明,推理中的语义调整可以用于构建更准确的基于神经网络的系统,使用更少的资源,并确保输出的语义一致性。
Feb, 2024
神经符号 AI 旨在将深度学习与符号 AI 相结合,以减少训练神经网络所需的数据量,提高模型给出答案的可解释性和可解性,并验证经过训练的系统的正确性。我们研究神经符号学习,既有使用符号语言表示的数据,也有背景知识。通过模糊推理、概率推理以及训练神经网络来连接符号和神经组件,以交流这一知识。
Jan, 2024