该研究介绍了一种新模型，经过研究表明这种模型可以解决语言理解任务和推理任务，能够保持和更新世界状态的表示，并且具备类似于神经图灵机或可微分神经计算机的能力，该模型称为 Recurrent Entity Network。

Dec, 2016

本研究使用关系网络（RNs）作为简单的即插即用模块来解决需要基于关系推理的问题，并在三个任务中测试了 RN 增强网络，在使用挑战性数据集 CLEVR 进行视觉问答时，取得了超越人类的最好表现；使用 bAbI 套件的任务进行基于文本的问答；以及关于动态物理系统进行复杂的推理。使用一个精选的数据集 Sort-of-CLEVR，表明强大的卷积网络不具备解决关系问题的一般能力，但可以在增加 RN 的情况下获得这种能力。我们的工作展示了如何利用配备 RN 模块的深度学习架构隐式地发现并学习实体及其关系。

Jun, 2017

研究了基于记忆的神经网络在处理具有复杂关系的任务时的能力，提出了一种新的内存模块 RMC，它使用多头点积注意力机制来加强记忆之间的交互，达到了在多个领域的最先进结果。

Jun, 2018

介绍一种新的神经网络结构 —— 工作记忆网络，该网络在保持关系推理能力的同时将计算复杂度从二次降至线性，并在文本和视觉问题应用中取得了显著结果。

May, 2018

本文介绍了一种新的 Relational neural networks 模型，通过在关系逻辑回归中加入隐藏层，从而同时考虑了物体和关系，使用遍历学习算法进行模型训练，并证明了 RelNNs 是一种有效的关系学习模型。

Dec, 2017

本文提出了一种基于注意力机制的体系结构，以从输入域的流实体确定关系，通过仅需要部分原始 Relational Network 模块的模型参数，从而实现了等效性能和更高的可解释性。

Sep, 2019

本论文致力于将符号逻辑推理的多步骤推理与神经网络的概括功能相结合。在文本和大型知识库中对实体和关系进行复杂推理。提出了三种重要的建模方法：（1）学习联合推理关系（2）使用神经注意力建模多个路径（3）学习在单个 RNN 中共享强度，使用我们的方法在实验任务中实现了 25％的错误率降低，推理中的错误率降低了 84％。

Jul, 2016

本文介绍了一种广义的循环关系网络，它可以增强任何神经网络模型的能力，以进行多步关系推理，通过将物体表示为图形，解决需要关系推理链的任务，例如回答有关物体之间关系的复杂问题或解决需要相互约束的解决方案的难题，并在 bAbI 文本问答数据集和数独难题的求解中实现了最优结果。

Nov, 2017

该研究针对深度神经网络在社交网络分析等结构化领域表现不佳的问题，提出了一种新方法，即基于关系随机游走的特征和参数共享的关系神经网络。实验证明，该方法在多个标准关系数据集上的表现优于多种神经网络和统计关系模型。

Aug, 2019

通过基于神经嵌入的方法，学习知识库中实体和关系的表示，并将大多数现有模型统一到一个学习框架下，比较各种嵌入模型在链接预测任务上的表现，其中一个简单的双线性公式在任务中取得新的最优结果；此外，利用此模型可以挖掘逻辑规则，其中包含组合推理，并且此方法在 Horn 规则挖掘方面表现优秀。

Dec, 2014