Oct, 2016

门控端到端记忆网络

PDF
TL;DR本文提出了一种新的、受计算机视觉中连接快捷原则启发的端到端可训练内存网络 (End-to-End trainable Memory Networks) 结构 ——Gated End-to-End trainable Memory Networks (GMemN2N)，该结构无需使用任何额外的监督信号，可以显著提高 20 bAbI 数据集的最具挑战性的任务和真人机器人对话 (DSTC-2) 数据集。
machine readingmemory networksend-to-end trainablegated end-to-end trainabledialog state tracking
发现论文，激发创造
  • 端对端记忆网络

    本文介绍了一种具有循环注意力模型的神经网络，该模型可以扩展到可能很大的外部存储器，并被应用于各种任务，如（合成）问答和语言建模。同时，本文展示了多个计算步骤（跳数）的关键概念可以提高性能表现。

    Mar, 2015

  • 学会推理：端到端模块化网络用于视觉问答

    本研究提出了一种新的基于神经网络的问题回答方法，使用 End-to-End Module Networks 技术，学习直接预测特定问题网络图层，该方法相对于现有最先进的注意力方法实现了近 50％的误差减少，特别针对 CLEVR 数据集。

    Apr, 2017

  • Mem2Seq: 将知识库有效地整合到端到端任务导向的对话系统中

    本文提出了一种名为记忆到序列（Mem2Seq）的神经生成模型，该模型将多跳记忆和指针网络的思想结合在一起，用于解决端到端面向任务的对话系统中包含知识库的挑战。我们实验证明 Mem2Seq 可以控制每个生成步骤，并展示其多跳注意机制如何帮助学习记忆之间的相关性。此外，我们的模型是相当普适的，没有复杂的任务特定设计。因此，我们展示了 Mem2Seq 可以更快地训练并在三个不同的面向任务的对话数据集上达到最先进的性能水平。

    Apr, 2018

  • 工作记忆网络：增强记忆网络与关系推理模块的结合

    介绍一种新的神经网络结构 —— 工作记忆网络，该网络在保持关系推理能力的同时将计算复杂度从二次降至线性，并在文本和视觉问题应用中取得了显著结果。

    May, 2018

  • 视觉和文本问答的动态记忆网络

    本文通过分析动态记忆网络并提出多项改进，包括一种新的图像输入模块，实现在缺乏支持事实的情况下回答问题，该新型 DMN + 模型成功应用于视觉问答数据集和文本问答数据集上，且无需支持事实监督。

    Mar, 2016

  • 问答：面向自然语言处理的动态记忆网络

    介绍了一种动态记忆网络 (DMN) 神经网络架构，它处理输入序列和问题，形成情节性记忆，并生成相关答案，用已训练的词向量表示和输入 - 问题 - 答案三元组训练，能在自然语言处理中取得最先进的结果。

    Jun, 2015

  • 使用自然数据挑战神经对话模型：记忆网络在增量现象上的失误

    研究了机器学习方法处理自然语言对话中语言现象的可行性，针对此问题，研究者将实际自然语言现象加入到 Facebook AI Research 的 bAbI 对话数据集中，发现目前的一种检索模型 MemN2N 在这种自然语言数据集合上表现急剧下降，但使用增量语义解析器 DyLan 能够在此数据集合上实现 100％的语义准确性。

    Sep, 2017

  • 端到端目标导向对话学习

    本文提出了一个测试平台，以研究在特定场景下 end-to-end 对话系统的性能，通过实验比较其与手工设计的系统的相似性及差异性。结果表明，end-to-end 系统基于记忆网络能够实现目标，但仍存在缺陷。

    May, 2016

  • 基于注意力门控分层记忆网络的实时情绪识别

    我们提出了一种注意力门控分层记忆网络 (AGHMN)，其中包括卷积神经网络、双向门控循环单元、分层内存和注意力门控循环单元等模块，以便于实现实时聊天机器人的情感识别和历史上下文的建模和回溯。

    Nov, 2019

  • 个性化端到端目标导向对话学习

    本文提出一种个性化的端到端模型，以应用个性化技术来解决对话系统中的一些悬而未决的问题。该模型结合了 “个人资料模型” 和 “偏好模型” 两个子模型，并实践证明其在对话系统任务完成率和用户满意度等方面取得了良好表现。

    Nov, 2018