本研究使用关系网络（RNs）作为简单的即插即用模块来解决需要基于关系推理的问题，并在三个任务中测试了 RN 增强网络，在使用挑战性数据集 CLEVR 进行视觉问答时，取得了超越人类的最好表现；使用 bAbI 套件的任务进行基于文本的问答；以及关于动态物理系统进行复杂的推理。使用一个精选的数据集 Sort-of-CLEVR，表明强大的卷积网络不具备解决关系问题的一般能力，但可以在增加 RN 的情况下获得这种能力。我们的工作展示了如何利用配备 RN 模块的深度学习架构隐式地发现并学习实体及其关系。

Jun, 2017

本文介绍新的关系推理模型 RelNet，它是一种记忆增强的神经网络，用于建立实体和关系之间的抽象知识图，并可用于回答文档相关问题。该模型在训练时只需要正确答案的监督，并在 20 个 bAbI 问答任务中进行了测试，每个任务包含 10k 个样例，发现平均错误率仅为 0.3％，其中 11 个任务错误率为 0％。

Jun, 2017

本文引入的关系网络（RNs）- 一种通用的神经网络架构，可用于从场景描述数据中学习对象关系，并从变分自编码器提供的场景图像的分布式深度表示中分离出错综场景描述输入的对象。

Feb, 2017

介绍一种新的神经网络结构 —— 工作记忆网络，该网络在保持关系推理能力的同时将计算复杂度从二次降至线性，并在文本和视觉问题应用中取得了显著结果。

May, 2018

该研究针对深度神经网络在社交网络分析等结构化领域表现不佳的问题，提出了一种新方法，即基于关系随机游走的特征和参数共享的关系神经网络。实验证明，该方法在多个标准关系数据集上的表现优于多种神经网络和统计关系模型。

Aug, 2019

该论文介绍了一种时间关系网络（TRN），通过对多个时间尺度上视频帧之间的时间依赖关系进行学习和推理，使卷积神经网络具有发现视频中时间关系的显着能力。经过实验证明，TRN 配备的网络可以通过仅稀疏采样的视频帧，在 Something-Something、Jester 和 Charades 数据集上准确预测人 - 物交互，并以非常有竞争力的性能识别 Jester 数据集上的各种人类手势，并在 Charades 数据集中识别日常活动，这超过了两个流网络和 3D 卷积网络的表现。进一步的分析表明，模型在视频中学习了直观和可解释的视觉常识知识。

Nov, 2017

本文介绍了一种新的 Relational neural networks 模型，通过在关系逻辑回归中加入隐藏层，从而同时考虑了物体和关系，使用遍历学习算法进行模型训练，并证明了 RelNNs 是一种有效的关系学习模型。

Dec, 2017

本论文致力于将符号逻辑推理的多步骤推理与神经网络的概括功能相结合。在文本和大型知识库中对实体和关系进行复杂推理。提出了三种重要的建模方法：（1）学习联合推理关系（2）使用神经注意力建模多个路径（3）学习在单个 RNN 中共享强度，使用我们的方法在实验任务中实现了 25％的错误率降低，推理中的错误率降低了 84％。

Jul, 2016

该论文提出了一种新颖的 transformer 模型，用于场景图生成和关系预测，利用编码器 - 解码器架构和节点和边的丰富特征嵌入，通过自我注意力和交叉注意力模拟节点之间和边与节点之间的交互，并引入适用于处理解码器中的边的新的位置嵌入。

Apr, 2020

研究了基于记忆的神经网络在处理具有复杂关系的任务时的能力，提出了一种新的内存模块 RMC，它使用多头点积注意力机制来加强记忆之间的交互，达到了在多个领域的最先进结果。

Jun, 2018