- Logic-LM: 使用符号求解器增强大型语言模型进行可靠的逻辑推理
Logic-LM 是一种将大型语言模型与符号推理相结合的框架,通过首先使用大型语言模型将自然语言问题转化为符号形式,然后进行确定性符号求解,以及自我精炼阶段来修正符号形式,在 ProofWriter、PrOntoQA、FOLIO 和 Log - 一个简单的逻辑推理和统计学习生成模型
提出了一种基于贝叶斯模型可实现逻辑推理和统计学习的新方法,使得符号推理成为正向和反向过程的结果,并对学习和推理的研究提供了新的视角。
- ACL通过可微分符号编程改进语言模型的逻辑推理能力
本文提出 DSR-LM 框架,通过符号编程实现不同 iable 符号推理框架,其中预训练的语言模型控制事实知识的感知,符号模块执行演绎推理,并改进了 LMs 的逻辑推理能力,结果表明其在推理基准测试中的精度提高了 20% 以上。
- 神经理解:编译神经网络的语言模型
本文介绍了如何在语言模型中引入编译的神经网络(CoNNs),以实现语言模型的规则全面理解能力。该方法称为 “神经理解”,可提高语言模型在符合任务中的性能,在需要超越训练数据模式识别的领域中特别有用。在符号操作中,我们的方法能够提高语言模型的 - 神经网络验证的高效符号推理
本文提出一种新的神经网络可验证的符号推理框架,名为符号推理,其利用了符号域和二次关系来解决网络在面临不同情景下的可验证问题。该框架提供了一种新的可验证信号和视角,可为神经网络的验证问题带来新的理论启示和实用工具。
- 广义注释逻辑的扩展及其等效神经架构
本文探讨了深度神经网络存在的一些局限性,以及最近兴起的神经符号混合系统如何整合符号推理并提出改进方法,将通用注释逻辑扩展为一个基于离散优化的二值化神经网络,提供了可行性证明,并讨论了实现该框架面临的挑战。
- ACL神经符号推理策略的实证研究
通过分解中间推理步骤及连接策略,研究并因素化生成中间步骤的益处,结果表明任选的推理策略显著影响性能,而通过某些配置,即使在长度外推的情况下,表现也接近完美,提高神经推理模型的有效策略具有重要性。
- ACL深度神经网络是否捕捉了算术推理中的组合性?
本研究使用多层算术符号推理的受控数据集,系统地检查了最近发布的预训练 seq2seq 模型,旨在探讨最新的神经模型如何捕捉符号推理的组合性。我们引入了一个 “组合性技能树”,定义了组合复杂性的层级水平以及系统性,生产力和可替代性等组合性维度 - 教授小型语言模型推理
本文探讨通过知识蒸馏将大型语言模型的推理能力迁移至小于 1000 亿参数的模型,实现任务的表现提升,对算术、常识和符号推理数据集效果显著,例如在 PaLM-540B 生成的思考链上进行微调后,T5 XXL 在 GSM8K 的准确率从 8.1 - 非公理术语逻辑:认知符号推理的计算理论
本文提出了非公理术语逻辑 (NATL) 作为人类符号推理在人工智能领域的理论计算框架,并将其定位在逻辑学的发展历程和相关文献中。NATL 结合了阿里斯托德的术语逻辑和现代分布式表示或嵌入的语义系统。该文未进行量化评估,但提供了使用 NATL - 基于知识的神经符号潜变空间类比推理
本论文提出了一种结合神经网络的模式识别能力、符号推理和背景知识来解决类比推理问题的框架,并应用于 RAVEN 的递进矩阵上,取得了与人类表现有竞争力甚至更优秀的结果。
- 利用一阶理论扩展逻辑神经网络
本研究介绍了如何将一阶理论的相等性和函数符号加入 LNNs 的结构中,以让其更加灵活高效地处理问题。我们还展示了将一阶理论的相等性支持加入 IBM 的 LNN 库中的新功能。
- 大型语言模型是零样本推理器
该研究发现预训练的大型语言模型可以成为良好的零样本推理器,提出了一种零样本的 CoT 方法,将其用于多种复杂的推理任务并取得了显著的性能提升。
- 神经符号人工智能在自然语言处理方面是否兑现其承诺?一项结构化综述
通过研究关于 Neuro-Symbolic 人工智能(NeSy)在自然语言处理中的应用,发现将逻辑编译到神经网络中的系统能够实现最佳的 NeSy 目标,呼吁更加系统化的方法和适当的基准测试用于理解该领域的发展。
- EMNLP基于逻辑级别证据提取与基于图的验证网络的表格事实验证
提出了 Logic-level Evidence Retrieval and Graph-based Verification network (LERGV) 框架,将基于表格的事实验证任务作为证据检索和推理框架来进行,通过检索逻辑级别证据 - pix2rule: 端到端的神经符号规则学习
本文提出了一种完整的神经符号方法,用于以端到端的方式将图像处理为对象,并在学习关系和逻辑规则方面。主要贡献是以可微分层为基础,从而可以通过剪枝和阈值确定符号关系和规则。我们使用两个数据集进行模型评估:符号规则学习的子图同构任务和学习对象,关 - 稀疏分布式表示的变量绑定:理论与应用
本文探讨了 Vector Symbolic Architectures 中稀疏分布式表示下的符号推导,通过实验证明了基于块编码进行变量绑定的方法具有良好的性质,并在认知推理和分类等实际应用中展示了它的价值。
- 非符号神经网络的关系推理和泛化
本文通过实验发现,使用两种不同的表示法,即经过预训练的表示法和任意表示法,神经网络能够进行基本的相等性 (数学恒等式)、模式相等性 (学习 ABA 模式序列) 和层级相等性 (只进行基本相等性训练) 的学习,这些任务是为了区分人类独特的符号 - IJCAI文本时间信息提取的时间推理调查(扩展摘要)
本文综述了过去几十年来针对从文本中自动抽取时间信息的时间推理研究,并为基于机器学习的信息抽取系统集成符号推理提供了一个案例研究。
- ICLR神经模块网络用于文本推理
通过引入能够对文本段进行推理的组件、以概率性和可微分的方式执行数字和日期等符号推理的组件,提出了一种改进的神经模块网络(NMNs)模型,提高了非合成问题的预测效果,实验结果表明,该模型在 DROP 数据集上取得了显著的性能提升。