递归神经张量网络能否学习逻辑推理？

ICLRDec, 2013

递归神经张量网络能否学习逻辑推理？

Can recursive neural tensor networks learn logical reasoning?

Samuel R. Bowman

TL;DR该研究使用构造的逻辑推理短句的语料库训练了一种递归模型，其使用的递归神经网络模型和相应的词向量表示已在各种越来越语义复杂的任务中实现成功，但几乎不知道它们是否能准确捕捉必要的语言意义方面。该模型学习到的表示形式在所有但少数情况下都很好地推广到新的推理模式，这一结果为掌握逻辑推理和学习表示模型的能力提供了希望。

Abstract

recursive neural network models and their accompanying vector representations for words have seen success in an array of increasingly semantically sophisticated tasks, but almost nothing is known about their abil

recursive neural network vector representations linguistic meaning logical reasoning learned representation models

发现论文，激发创造

学习自然逻辑推理的分布式词表示

研究了两种基于神经网络学习嵌入的模型，试图支持自然逻辑所捕捉的丰富、多样的逻辑推理。实验结果表明，学习分布式表示在逻辑语义应用建模方面具有积极的前景。

Oct, 2014

深度神经网络本体推理

本研究采用最新的深度神经网络训练方法，成功开发出了一种模型，可以学会在基本本体论推理的形式下有效地进行逻辑推理，进而可以应用于许多现实世界中的问题，并且在各项实验中表现出高度准确和生物学上的可行性。

Aug, 2018

DeepLogic: 基于端到端可微分的逻辑推理

探索如何使用基于 RNN 的迭代神经网络将符号逻辑定义为字符级逻辑程序，使其在高维向量空间中学习推理，进一步分析学习推理算法如何产生逻辑程序中的原子、文字和规则表示，并针对谓词和常量符号的长度以及多次跳跃推理的步数进行评估。

May, 2018

神经逻辑推理

本文介绍了如何利用动态神经网络结构和基本逻辑操作，将深度学习和逻辑推理相结合，提出了名为 LINN 的模型，以推理方式解决推荐系统的问题，并在理论和实践任务中都取得了显著的性能提升。

Aug, 2020

逻辑张量网络：从数据和知识中进行深度学习和逻辑推理

Logic Tensor Networks 通过在第一阶逻辑语言上定义一个逻辑形式（Real Logic），该形式的公式在区间 [0,1] 上具有真值，并且具体定义在实数域上的语义高效地将推理知识与数据驱动的机器学习结合起来，并证明了通过使用谷歌的 tensorflow 原语将 Real Logic 实现在深度张量神经网络上，并在简单但有代表性的知识自动完成的实验中应用逻辑张量网络。

Jun, 2016

使用递归神经网络对实体、关系和文本进行推理链

本论文致力于将符号逻辑推理的多步骤推理与神经网络的概括功能相结合。在文本和大型知识库中对实体和关系进行复杂推理。提出了三种重要的建模方法：（1）学习联合推理关系（2）使用神经注意力建模多个路径（3）学习在单个 RNN 中共享强度，使用我们的方法在实验任务中实现了 25％的错误率降低，推理中的错误率降低了 84％。

Jul, 2016

逻辑张量网络

本文介绍了一种名为 Logic Tensor Networks（LTN）的神经符号形式和计算模型，支持通过引入一种称为 Real Logic 的可微分一阶逻辑表示语言进行学习和推理，并说明 LTN 提供了一种统一语言来规范和计算多个人工智能任务。

Dec, 2020

理性飞跃：教授预训练模型系统性地推理隐含知识

该研究证明，通过使用既有的预训练模型中的隐含知识以及显式的自然语言陈述，神经网络可以可靠地执行系统性推理任务，这为开放领域的系统不断与用户交互、持续改进的路径铺平了道路。

Jun, 2020

潜空间中的数学推理

通过在固定维度的潜在空间中进行的近似推理的几个步骤，我们证明了神经网络可以对语句进行重写和推理，这对于各种数学学科都是可行的。

Sep, 2019

基于神经网络的推理

Neural Reasoner 是一个基于神经网络的推理框架，具有特殊的交互池机制和深度结构，能够处理不同类型的推理和语言表达形式，并在两个困难人工任务中表现出优越性能。

Aug, 2015