Oct, 2015

基于深度学习的问答模型实证研究

PDF
TL;DR本文研究深度学习模型，结合记忆组件或注意力机制进行问答任务。我们比较了三种模型：神经机器翻译、神经图灵机和记忆网络，用于一个模拟 QA 数据集。研究表明，注意力和记忆的组合有潜力解决某些 QA 问题。其中，本文是首个使用神经机器翻译和神经图灵机解决 QA 任务的研究。
发现论文，激发创造
  • 从信息检索和深度神经网络角度的基于文本的问答：一项综述

    本文综述了传统信息检索方法和深度神经网络方法在文本问答任务中的应用，介绍了相关模型以及可供比较的数据集和文献结果。

    Feb, 2020

  • 基于神经网络的问答系统中问题理解与适应的探讨

    本文通过在神经网络框架中密切模拟问题，引入句法信息来帮助编码问题，并将不同类型的问题和共享信息建模为适应性任务，并提出适应性模型，从而在 Stanford 问题回答数据集（SQuAD）上证明这些方法可帮助获得比竞争基准更好的结果。

    Mar, 2017

  • 基于 SQuAD 的神经问答模型比较分析

    本文通过定量和定性分析现有端到端神经模型在斯坦福问答数据集上的结果，旨在理解和比较其特性，以迈向实现在多个领域中的泛化能力。研究发现，预测错误反映了某些模型特定偏差，本文对此进行了进一步讨论。

    Jun, 2018

  • 基于 LSTM 的深度学习模型用于非事实答案选择

    本文探索了一种深度学习框架，用于解决答案选择问题，结合双向长短期记忆模型、卷积神经网络和注意力机制，结果表明该模型在 TREC-QA 和 InsuranceQA 数据集上优于已有模型。

    Nov, 2015

  • 记忆网络

    本文介绍了一种新的学习模型 - 记忆网络，利用推理组件和长期记忆组件共同学习。这些模型可以用于问答型任务中，长期记忆作为动态知识库，输出为文本响应。在评估中表明记忆网络模型在问答中具有强大的推理能力。

    Oct, 2014

  • 基于记忆网络的大规模简单问答

    该论文研究了多任务和迁移学习对简单问题回答的影响，提出了一个新的包含 10 万个问题的数据集，并在 Memory Networks 框架下成功训练了系统来回答问题。

    Jun, 2015

  • 一种上下文感知的交互问答注意力网络

    该研究开发了一种基于上下文依赖词级别注重和问题引导的句子级别注意力的新型模型，以更准确地理解文本，加强上下文建模，可以在交互式问答场景中处理不完整或模糊信息，大大提升了传统 QA 模型的表现。

    Dec, 2016

  • 应用深度学习进行答案选择研究和开放任务

    应用深度学习框架解决非事实类问答任务，在保险领域创建和发布了问答语料库，实验结果表明性能优于基线方法和其他技术，对于这个高度具有挑战性的任务，测试集的最高准确率可达到 65.3％，具有广泛的实用潜力。

    Aug, 2015

  • 一个面向问题的多要素注意力网络用于问答

    本文提出一种新颖的端到端问题聚焦的多因素注意网络，用于回答提问文本中的问题，通过张量变换实现多因素关注编码，以对散布在多个句子中的信息进行建模，并采用最大化注意聚合机制来对提问文本进行编码，从而实现对问题类型的隐式推断，并在三个大型挑战性问题回答数据集中实现了显著的性能提升。

    Jan, 2018

  • 让人沮丧地简单的自然问答

    文章研究了问题回答领域（Question Answering）中各种算法模型以及增强数据方法，提出了基于 Attention-over-Attention 等方法的组合以及数据增强和集成策略，可在 SQuAD 等基准数据集上取得超人的表现。但在最新的自然问题基准数据集上，相对简单的 BERT 迁移学习方法取得了超过先前表现最优系统 1.9 F1 点的优异表现，并且添加集成策略进一步提高了 2.3 F1 点。

    Sep, 2019