本研究使用关系网络（RNs）作为简单的即插即用模块来解决需要基于关系推理的问题，并在三个任务中测试了 RN 增强网络，在使用挑战性数据集 CLEVR 进行视觉问答时，取得了超越人类的最好表现；使用 bAbI 套件的任务进行基于文本的问答；以及关于动态物理系统进行复杂的推理。使用一个精选的数据集 Sort-of-CLEVR，表明强大的卷积网络不具备解决关系问题的一般能力，但可以在增加 RN 的情况下获得这种能力。我们的工作展示了如何利用配备 RN 模块的深度学习架构隐式地发现并学习实体及其关系。

Jun, 2017

研究了基于记忆的神经网络在处理具有复杂关系的任务时的能力，提出了一种新的内存模块 RMC，它使用多头点积注意力机制来加强记忆之间的交互，达到了在多个领域的最先进结果。

Jun, 2018

使用 MLP 组件在 Memory Network 架构中寻找相关信息的新方法，以及在多个问题回答任务中的最新技术结果。

Jan, 2018

本文介绍了一种新的学习模型 - 记忆网络，利用推理组件和长期记忆组件共同学习。这些模型可以用于问答型任务中，长期记忆作为动态知识库，输出为文本响应。在评估中表明记忆网络模型在问答中具有强大的推理能力。

Oct, 2014

本论文致力于将符号逻辑推理的多步骤推理与神经网络的概括功能相结合。在文本和大型知识库中对实体和关系进行复杂推理。提出了三种重要的建模方法：（1）学习联合推理关系（2）使用神经注意力建模多个路径（3）学习在单个 RNN 中共享强度，使用我们的方法在实验任务中实现了 25％的错误率降低，推理中的错误率降低了 84％。

Jul, 2016

本文介绍新的关系推理模型 RelNet，它是一种记忆增强的神经网络，用于建立实体和关系之间的抽象知识图，并可用于回答文档相关问题。该模型在训练时只需要正确答案的监督，并在 20 个 bAbI 问答任务中进行了测试，每个任务包含 10k 个样例，发现平均错误率仅为 0.3％，其中 11 个任务错误率为 0％。

Jun, 2017

本文提出了名为神经关联模型（NAM）的新深度学习方法，旨在用于人工智能中的概率推理。作者研究了两种 NAM 结构，即深度神经网络（DNN）和关系调制神经网络（RMNN），并在多个概率推理任务中证明了它们的有效性，包括识别文本蕴含，多关系知识库中的三元分类和常识推理。实验结果表明，这些模型可以显著优于传统的方法，并证明了它们在解决具有挑战性的 Winograd 模式（WS）问题方面的潜力。

Mar, 2016

通过引入能够对文本段进行推理的组件、以概率性和可微分的方式执行数字和日期等符号推理的组件，提出了一种改进的神经模块网络（NMNs）模型，提高了非合成问题的预测效果，实验结果表明，该模型在 DROP 数据集上取得了显著的性能提升。

Dec, 2019

本文介绍了一种新颖的框架 Relational Neural Machines，它可以对学习器的参数和基于一阶逻辑的推理器进行联合训练，下面将介绍其在大规模关系任务中的可行性和良好效果。

Feb, 2020

本文提出了一种基于注意力机制的体系结构，以从输入域的流实体确定关系，通过仅需要部分原始 Relational Network 模块的模型参数，从而实现了等效性能和更高的可解释性。

Sep, 2019