EMNLPSep, 2021

基于神经网络的自然语言逻辑推理统一化

PDF
TL;DR本文提出了一种新的架构 —— 神经单元器，并提出了相应的训练过程，实现了最先进的推理结果，通过模拟一种众所周知的推理过程 —— 向后链接，即使模型只在浅层次的数据上进行训练，也能回答深度问题，并通过使用各种基准数据集进行实验。
automated theorem provingtransformer-based architecturesruletaker approachneural unifierbackward chaining
发现论文，激发创造
  • 面向大规模神经定理证明

    提出了一种新型的神经定理证明器，通过仅考虑最高证明分数相关的证明路径，可以在以前无法应用的知识库上进行推理和学习。

    Jul, 2018

  • 端到端可导证明中学习推理策略

    本文提出了一种名为 Conditional Theorem Provers（CTPs）的方法，它是 Neural Theorem Provers（NTPs）的扩展，可以通过基于梯度的优化学习出最优规则选择策略以实现可解释性和可扩展性，并且在大规模任务中表现优异。CTPs 在 CLUTRR 数据集上取得了表现最优结果，并在标准基准测试中展现了比其他神经符号模型更好的链接预测结果。

    Jul, 2020

  • NLProlog: 自然语言问答中基于弱一致性的推理

    本文提出一种将神经网络与逻辑编程相结合的方法，用于解决自然语言处理的多跳推理问题，通过底层表示层面上的结合，使得具有逻辑规则的解释型结果可以应用于自然语言处理领域，同时在两个不同的问题回答任务上达到了竞争水平。

    Jun, 2019

  • 学习作为推理：可训练的自然逻辑定理证明器用于自然语言推理

    论文介绍了一种基于逆推的推理方法 (abduction)，该方法在自然语言推理中的应用可以有效地提高定理证明器的性能，提高处理语义关系的精度。

    Oct, 2020

  • 基于原子知识库的机器翻译的规则学习

    机器学习模型，特别是语言模型，被应用于需要推理的各种任务。我们探索了 transformers 将自然语言中表达规则的句子翻译成逻辑规则的能力，以便进行可信的和受控制的逻辑推理。通过使用 DKET 数据集和基于 Atomic 知识库的语言到逻辑翻译数据集进行实验。

    Nov, 2023

  • 利用循环神经网络划定搜索区域的神经定理证明器

    该研究提出了一种基于广义 EM 方法的 RNNNTP 方法，通过将其分为关系生成器和预测器，训练出同时具有高效性和可解释性的模型，实现了知识图谱的链接预测任务，并在性能上表现出与传统方法和当前强竞争方法相当的结果。

    Mar, 2022

  • 变压器作为语言上的软推理器

    本论文研究一种新的知识表示方法，采用自然语言句子代替形式化表示，并使用合成数据训练 Transformer 模型进行推理。该方法有望提供一种新的 “软定理证明器” 的运作方式，用于问题回答，实现解释性、校正性和反事实推理等新功能。

    Feb, 2020

  • 将 QMLTP 问题翻译为高阶逻辑以求解

    本文对自动证明系统 (Automated Theorem Proving, ATP) 在一阶模态逻辑问题的 QMLTP 库中的表现进行了评估，主要采取了嵌入法将问题转换为 TPTP 语言中的高阶逻辑，使用高阶逻辑 ATP 系统进行求解，并将原生模态逻辑 ATP 系统的结果与嵌入法进行比较，得出结论：(一) 嵌入过程是可靠和成功的；(二) 后端 ATP 系统的选择会显著影响嵌入方法的性能；(三) 原生模态逻辑 ATP 系统胜于嵌入方法；(四) 嵌入方法可以处理比原生模态系统涵盖更广的模态逻辑。

    Dec, 2022

  • Transformer 相遇神经算法推理者

    使用 Transformer 的语言理解和图神经网络（GNN）的鲁棒性，我们提出了一种新的方法，将 Transformer 与基于神经算法推理器（NARs）的图算法进行结合，以解决算法推理方面的问题。经过评估，在算法推理方面，我们的结果表明 TransNAR 模型在 CLRS-Text 上相较于仅使用 Transformer 模型，能够获得显著的提升。

    Jun, 2024

  • 大规模知识库和自然语言上的可微推理

    本文提出了一种解决人工智能中自然语言和知识库的推理问题的方法，即利用神经定理证明器和共享嵌入空间来实现，该方法被证明的可扩展性更加高效，并取得了较好的预测结果和可解释性。

    Dec, 2019