通过研究关于 Neuro-Symbolic 人工智能(NeSy)在自然语言处理中的应用,发现将逻辑编译到神经网络中的系统能够实现最佳的 NeSy 目标,呼吁更加系统化的方法和适当的基准测试用于理解该领域的发展。
Feb, 2022
NeSyGPT 通过对视觉 - 语言基础模型进行微调,从原始数据中提取符号特征,并学习一个高度表达的回答集程序来解决下游任务,以提高 NeSy 任务的性能和减少数据标记和手动工程工作量。
Feb, 2024
本文旨在研究任务驱动对话系统的可解释性,提出了一种采用前后明确逻辑推理的神经符号学方法,并设计了一种由假设生成器和推理器构成的两阶段方法来克服多跳推理带来的错误传播问题,实验结果证明该方法不仅获得了更好的效果,而且具有可解释性决策过程。
Mar, 2022
本文探讨了深度神经网络存在的一些局限性,以及最近兴起的神经符号混合系统如何整合符号推理并提出改进方法,将通用注释逻辑扩展为一个基于离散优化的二值化神经网络,提供了可行性证明,并讨论了实现该框架面临的挑战。
Feb, 2023
通过启用预训练语言模型的深度神经网络,在系统 1 和系统 2 的理论支持下,实现了基于神经和符号处理的类比推理和逻辑推理,并在数值推理的两种自然语言理解任务中显著优于现有的最先进方法。
深度学习在自然语言处理 (NLP) 任务中取得了显著进展,本研究提出了一种神经符号学习方法,将符号主义和连接主义两种人工智能学派相结合,通过强化学习或其弱化版本在下游任务中实现具有符号潜在结构的神经系统的弱监督推理。该框架已成功应用于表格查询推理、句法结构推理、信息抽取推理和规则推理等各种任务。
Sep, 2023
神经符号 AI 旨在将深度学习与符号 AI 相结合,以减少训练神经网络所需的数据量,提高模型给出答案的可解释性和可解性,并验证经过训练的系统的正确性。我们研究神经符号学习,既有使用符号语言表示的数据,也有背景知识。通过模糊推理、概率推理以及训练神经网络来连接符号和神经组件,以交流这一知识。
Jan, 2024
通过在神经序列模型(System 1)中加入逻辑推理模块(System 2),提高模型的逻辑一致性和准确性。实验表明此方法可以提高故事生成和指令执行的一致性和准确性。
Jul, 2021
本文介绍了神经符号计算(NeSy)领域的重要和最新研究发展,包括研究历史,背景知识,关键驱动因素以及主要特征。文章讨论了该领域的一些重要应用并针对目前存在的问题提出了新的研究方向,以期进一步推动以数据和知识为驱动的 AI 的研究进展。
Oct, 2022
本文介绍了一个基于强化学习和内省修订的神经符号自然逻辑框架,通过策略梯度对特定推断路径进行采样和奖励,并利用外部知识缓解虚假推理和训练低效问题。该模型具有内在的可解释性,在单调性推理、系统泛化和可解释性方面表现出优越能力,相对于先前的模型在现有数据集上表现更好。