Nov, 2016

学习循环跨度表示与摘要式问答

PDF
TL;DR本文针对 SQuAD 数据集所提出的答案抽取任务，通过循环网络有效地构建了证据文档中所有跨度的固定长度表示，证明对显式跨度表示进行评分显著优于其他方法，并在 Wang＆Jiang（2016）的最佳已发布结果上提高了 5％，并且将 Rajpurkar 等人的基线误差减小了 50％以上。
reading comprehensionanswer extractionsquad datasetmodel architecturerecurrent network
发现论文，激发创造
  • 一种简单有效的多跨度问题回答模型

    本文提出了一种新方法，通过将阅读理解中的多串问题视为序列标注问题，使得模型不再局限于输出单一连续结果，而是可以输出多个分散的结果，实验结果在 DROP 和 Quoref 数据集上分别提升了 9.9 和 5.5 个 EM 点。

    Sep, 2019

  • 文本跨任务跨度表示的分析

    本文通过对六种跨度表示方法和八个预训练语言模型在六个任务中的综合实证评估，发现即使有些简单跨度表示在多个任务中相对可靠，但一般来说最优跨度表示方法因任务而异，也可能因不同任务的不同方面而异。同时，我们还发现，与精细调整的编码器相比，跨度表示的选择对于预先训练的编码器具有更大的影响。

    Jun, 2020

  • 长篇文档的分层问答

    基于强化学习和词向量，提出了一种可以高效处理长篇文档的问答框架，该框架结合了快速筛选相关句子和精读相关句子的策略，并在 Wikireading 的一个挑战性子集和一组新的数据集上实现了最新的性能，同时使模型的速度提高 3.5 倍至 6.7 倍。

    Nov, 2016

  • 加强语言表示以利用标签知识进行提取

    本研究提出了一种新的模型来加强文本表达，进而实现信息提取中的 span extraction 任务，并在三个任务，flat NER、nested NER、event detection 中达到了最佳表现，显著减少了训练和推理时间。

    Nov, 2021

  • ReQA: 面向端到端答案检索模型的评价

    本篇论文介绍了一个用于评估大规模句子级别答案检索模型的基准 Retrieval Question-Answering（ReQA），并使用神经编码模型和传统信息检索技术建立了基线。我们提供我们的评估代码以鼓励更多关于这一具有挑战性的任务的研究。

    Jul, 2019

  • 检索与阅读：信息检索和阅读理解的多任务学习

    本研究提出一种简单而有效的方法，通过使用监督多任务学习，将 IR 和 RC 任务结合起来，以考虑答案跨度来训练 IR 组件，实现大规模机器阅读，从而取得了最先进的表现。

    Aug, 2018

  • 阅读理解的上下文化词表示

    论文研究了使用神经网络和预训练语言模型来提取文件中问题的答案，通过提供丰富的上下文表示并允许模型在上下文相关和上下文无关的单词表示之间进行选择，可以获得比现有技术更好的性能。

    Dec, 2017

  • 利用自动单一或多段答案提取的活动报告分析

    本文提出了一个基于 RoBERTa 的多跨度问题回答（MSEQA）模型，可以在针对某个问题和上下文的情况下返回适当的答案跨度。

    Sep, 2022

  • 神经阅读理解中问题与答案的分离

    本文提出了一种新的神经体系结构，旨在充分利用查询 - 答案记忆体的显式支持，以回答问题。我们的模型能够在单独累积预测答案证据的同时，对给定的查询进行细化和更新。通过该体系结构的松散连接信息通路（模块），我们的模型有效地分离了与查询相关的支持搜索和答案预测。根据阅读理解的最新基准数据集，我们的模型取得了最先进的结果。定性分析表明，模型能够有效地累积来自查询和多次支持检索的加权证据，从而实现了强大的答案预测。

    Jul, 2016

  • S-Net：从答案抽取到答案生成的机器阅读理解模型

    本文提出了一种新的机器阅读理解方法，使用抽取 - 综合框架来解决 MS-MARCO 数据集的问题，该方法使用先进的神经网络技术来构建具有单篇阅读理解的答案抽取模型，并使用序列到序列神经网络作为答案综合模型，实现了对多篇文献的问答。实验结果表明，这种方法的性能超过了现有的最佳方法。

    Jun, 2017