Jul, 2021

双系统神经符号推理在神经序列模型中的一致性与连贯性改进

PDF
TL;DR通过在神经序列模型（System 1）中加入逻辑推理模块（System 2），提高模型的逻辑一致性和准确性。实验表明此方法可以提高故事生成和指令执行的一致性和准确性。
发现论文，激发创造
  • 一种神经符号化方法用于自然语言理解

    通过启用预训练语言模型的深度神经网络，在系统 1 和系统 2 的理论支持下，实现了基于神经和符号处理的类比推理和逻辑推理，并在数值推理的两种自然语言理解任务中显著优于现有的最先进方法。

    Mar, 2022

  • 一种可解释的神经符号推理框架，用于任务导向的对话生成

    本文旨在研究任务驱动对话系统的可解释性，提出了一种采用前后明确逻辑推理的神经符号学方法，并设计了一种由假设生成器和推理器构成的两阶段方法来克服多跳推理带来的错误传播问题，实验结果证明该方法不仅获得了更好的效果，而且具有可解释性决策过程。

    Mar, 2022

  • 广义注释逻辑的扩展及其等效神经架构

    本文探讨了深度神经网络存在的一些局限性，以及最近兴起的神经符号混合系统如何整合符号推理并提出改进方法，将通用注释逻辑扩展为一个基于离散优化的二值化神经网络，提供了可行性证明，并讨论了实现该框架面临的挑战。

    Feb, 2023

  • DOMINO: 多步视觉语言推理的双系统

    通过一个包含系统 1 和系统 2 的双系统，本论文提出了一种用于多步骤多模态推理的方法，其中系统 1 用于提取视觉信息，系统 2 用于深入推理。通过实验证明，我们的方法在图表数据集上与之前的工作相比表现出竞争力，在多步骤推理的少量数据上通过微调系统 2 模块（LLaMA-2 70B），我们的方法的准确性得到进一步提升，并在具有人工提出问题的挑战性数据集上超过最佳全监督端到端方法 5.7% 以及具有 FlanPaLM（540B）的流水线方法 7.5%。

    Oct, 2023

  • 基于神经符号方法的弱监督推理

    深度学习在自然语言处理 (NLP) 任务中取得了显著进展，本研究提出了一种神经符号学习方法，将符号主义和连接主义两种人工智能学派相结合，通过强化学习或其弱化版本在下游任务中实现具有符号潜在结构的神经系统的弱监督推理。该框架已成功应用于表格查询推理、句法结构推理、信息抽取推理和规则推理等各种任务。

    Sep, 2023

  • 一种新的统计关系学习下的神经符号系统

    提出了一种名为 GBPGR 的广义双层概率图推理框架，通过使用统计关系学习启发式地集成了深度学习模型和符号推理，以解决当前人工智能领域中深度学习和符号推理相结合的方法在组合方式、泛化性和可解释性方面的局限性，并通过大量实验证明了该方法在转导和归纳任务中实现了高性能和有效的泛化能力。

    Sep, 2023

  • 神经符号学习与推理：调查和解释

    这篇文章介绍了关于认知科学、人工智能、神经计算的研究，特别是神经符号学习和推理的最新进展，从理论到应用和挑战，以及展望未来。

    Nov, 2017

  • 基于逻辑查询的神经符号推荐模型

    我们提出了一种神经符号推荐模型，将用户历史交互转化为逻辑表达式，并将推荐预测转化为基于这个逻辑表达式的查询任务。通过神经网络的模块化逻辑操作计算逻辑表达式，并构建隐式逻辑编码器合理降低逻辑计算的复杂性，实验证明我们的方法在三个著名数据集上相比其他浅层、深层、会话和推理模型表现更好。

    Sep, 2023

  • 使用认知神经符号系统实现高层机器推理

    我们提出通过将认知架构与外部神经符号组件相结合，使人工智能系统能够进行高层次推理，讨论生成模型在最近和未来应用中的作用。

    Nov, 2023

  • 走向完全声明性神经符号语言

    提出并实现了完全声明性的神经谓词的通用框架，从而扩展到完全声明性的 NeSy 框架。首先证明声明性扩展在保持学习和推理能力的同时，能够在仅通过单个查询类型进行训练的情况下回答任意查询。

    May, 2024