ACLJun, 2016

CNN/Daily Mail 阅读理解任务的全面研究

PDF
TL;DR本文研究了一项新的阅读理解任务，通过构建超过一百万的 CNN 和每日邮报新闻文章的训练例子和总结性要点，证明了神经网络可以在此任务上表现良好，并展示了简单的设计系统可以达到 73.6％和 76.6％的准确度，超过了当前最先进的结果，接近我们认为是此任务性能的上限。
nlpmachine learningreading comprehensionneural networktraining
发现论文，激发创造
  • 教授机器阅读和理解

    本篇论文提出了一种新方法，通过大规模监督学习从而提供阅读理解的数据集，开发了一类基于注意力机制的深度神经网络，使其能够在没有先前语言结构知识的情况下阅读真实文档并回答复杂问题。

    Jun, 2015

  • 神经机器阅读理解综述

    本文旨在介绍如何利用神经网络来构建阅读器，并介绍了一些经典模型，分析了它们所做出的改进，同时指出现有模型的缺陷和未来的研究方向。

    Jun, 2019

  • 注意力求和读者网络的文本理解

    该研究提出了一种使用注意力机制直接从文本中选取答案的模型，特别适用于以文本中某个单词为答案的问题，并在多个数据集上取得了新的最优成绩。

    Mar, 2016

  • 机器阅读理解系统调查

    本文对 2016 年到 2020 年间关于机器阅读理解方面的 241 篇论文进行了全面的调查，探讨了机器阅读理解的不同方面，包括方法、结构、输入 / 输出和研究的创新之处，并论述了研究的重点发生了变化，从答案提取到答案生成，从单一到多文档阅读理解，从零开始学习到使用预训练的嵌入。同时我们还讨论了这个领域中的流行数据集和评估指标，最后还研究了最常被引用的论文及其贡献。

    Jan, 2020

  • 简单而有效的多段阅读理解

    该论文旨在将神经段落级问题回答模型适应于以整个文档作为输入的情况，通过使用共享标准化训练目标，从多个段落中选择样本并鼓励模型产生全局正确的输出，该方法结合最先进的文档 QA 数据模型进行训练，实验证明了其在多个文档 QA 数据集上具有强大的性能表现，只需训练模型即可实现从 56.7 F1 到 71.3 F1 的大幅提高。

    Oct, 2017

  • Smarnet: 让机器像人类一样阅读和理解

    本文提出了一种用于机器理解阅读测试的科学方法，引入了新颖的词法控制机制，通过注意力机制和记忆网络指导机器进行交互式阅读，并添加检查层来细化答案以提高正确性，实验证明该方法在 SQuAD 和 TriviaQA 两个常用数据集上的表现优于大多数现有的解决方案。

    Oct, 2017

  • 大规模阅读理解下的医学体检问题解答

    该研究提出了一个名为 MedQA 的问答任务，使用大规模文档集中的知识研究临床医学中的问题解答。提出了一种基于 LSTM 网络和双路径注意力架构的模块化端到端阅读理解模型 SeaReader，其具有从两个角度建模信息流和同时读取和整合多篇文档的能力。实验证明，SeaReader 在 MedQA 上比竞争模型实现了大幅提高，同时开发了一系列新技术以展示 SeaReader 问题解答过程的解释。

    Feb, 2018

  • 研究人类大脑句子理解的深度学习模型

    回顾了和人脑活动相关的人工语言模型研究，发现人工神经网络中单词意义的神经表征与其使用的密集词向量高度吻合，并且人工神经网络内部的处理层次与人脑有相似之处，但是依据研究的不同而有所不同。因此，建立人工神经网络作为自然语言理解过程模型的当前挑战之一是利用其高度结构化的表征几何来映射表征到脑数据。

    Jan, 2023

  • NewsQA: 一个机器阅读理解数据集

    为了增加推理能力，我们通过四个阶段的过程收集有超过 10,000 篇 CNN 新闻文章的人类生成的问题 - 答案对的数据集 NewsQA，该数据集超过 100,000 个 QA 对，由众包工人提供，答案包含想对应文章的文本内容片段。人类的表现比现有神经模型的性能更好，这表明未来的研究可以在 NewsQA 上取得显著的进展。

    Nov, 2016

  • WikiReading：基于维基百科的大规模语言理解任务

    本论文介绍了一个基于大规模数据集的自然语言理解任务 - WikiReading，通过阅读相应维基百科文章，预测结构化知识库维基数据中的文本值，并对基于深度神经网络的模型进行了比较，发现最佳模型采用了一个具有复制词汇外单词机制的词级序列模型，获得了 71.8％的准确率。

    Aug, 2016