Jun, 2017

用于关系推理的简单神经网络模块

PDF
TL;DR本研究使用关系网络（RNs）作为简单的即插即用模块来解决需要基于关系推理的问题，并在三个任务中测试了 RN 增强网络，在使用挑战性数据集 CLEVR 进行视觉问答时，取得了超越人类的最好表现；使用 bAbI 套件的任务进行基于文本的问答；以及关于动态物理系统进行复杂的推理。使用一个精选的数据集 Sort-of-CLEVR，表明强大的卷积网络不具备解决关系问题的一般能力，但可以在增加 RN 的情况下获得这种能力。我们的工作展示了如何利用配备 RN 模块的深度学习架构隐式地发现并学习实体及其关系。
发现论文，激发创造
  • 循环关系网络

    本文介绍了一种广义的循环关系网络，它可以增强任何神经网络模型的能力，以进行多步关系推理，通过将物体表示为图形，解决需要关系推理链的任务，例如回答有关物体之间关系的复杂问题或解决需要相互约束的解决方案的难题，并在 bAbI 文本问答数据集和数独难题的求解中实现了最优结果。

    Nov, 2017

  • 实体流程中的关系

    本文提出了一种基于注意力机制的体系结构，以从输入域的流实体确定关系，通过仅需要部分原始 Relational Network 模块的模型参数，从而实现了等效性能和更高的可解释性。

    Sep, 2019

  • 工作记忆网络：增强记忆网络与关系推理模块的结合

    介绍一种新的神经网络结构 —— 工作记忆网络，该网络在保持关系推理能力的同时将计算复杂度从二次降至线性，并在文本和视觉问题应用中取得了显著结果。

    May, 2018

  • 关系神经机器

    本文介绍了一种新颖的框架 Relational Neural Machines，它可以对学习器的参数和基于一阶逻辑的推理器进行联合训练，下面将介绍其在大规模关系任务中的可行性和良好效果。

    Feb, 2020

  • 寻找相关记忆对象：一种用于基于文本推理的简单神经网络架构

    使用 MLP 组件在 Memory Network 架构中寻找相关信息的新方法，以及在多个问题回答任务中的最新技术结果。

    Jan, 2018

  • 使用递归神经网络对实体、关系和文本进行推理链

    本论文致力于将符号逻辑推理的多步骤推理与神经网络的概括功能相结合。在文本和大型知识库中对实体和关系进行复杂推理。提出了三种重要的建模方法：（1）学习联合推理关系（2）使用神经注意力建模多个路径（3）学习在单个 RNN 中共享强度，使用我们的方法在实验任务中实现了 25％的错误率降低，推理中的错误率降低了 84％。

    Jul, 2016

  • 视频中的时间关系推理

    该论文介绍了一种时间关系网络（TRN），通过对多个时间尺度上视频帧之间的时间依赖关系进行学习和推理，使卷积神经网络具有发现视频中时间关系的显着能力。经过实验证明，TRN 配备的网络可以通过仅稀疏采样的视频帧，在 Something-Something、Jester 和 Charades 数据集上准确预测人 - 物交互，并以非常有竞争力的性能识别 Jester 数据集上的各种人类手势，并在 Charades 数据集中识别日常活动，这超过了两个流网络和 3D 卷积网络的表现。进一步的分析表明，模型在视频中学习了直观和可解释的视觉常识知识。

    Nov, 2017

  • 从纠缠的场景表示中发现对象及其关系

    本文引入的关系网络（RNs）- 一种通用的神经网络架构，可用于从场景描述数据中学习对象关系，并从变分自编码器提供的场景图像的分布式深度表示中分离出错综场景描述输入的对象。

    Feb, 2017

  • RelNet: 实体和关系的端到端建模

    本文介绍新的关系推理模型 RelNet，它是一种记忆增强的神经网络，用于建立实体和关系之间的抽象知识图，并可用于回答文档相关问题。该模型在训练时只需要正确答案的监督，并在 20 个 bAbI 问答任务中进行了测试，每个任务包含 10k 个样例，发现平均错误率仅为 0.3％，其中 11 个任务错误率为 0％。

    Jun, 2017

  • 基于图的社交关系推理

    本文提出了一种基于图形关系推理网络方法 (GR2N) 的社交关系识别方法，该方法相比现有方法能够更快，更准确地构建社交关系图，并显式地抓住不同类型社交关系之间的强逻辑约束，从而提高社交关系图的性能。

    Jul, 2020