Aug, 2018

学习关注于主要术语：用于开放领域问答的增强型检索器 - 阅读器模型

PDF
TL;DR本文提出了一种检索 - 阅读器模型，该模型能够在回答问题过程中学习关注必要的词语，该模型包括一个选择器来确定问题中最重要的词语，再重新制定查询，搜索相关证据； 和一种增强阅读器来区分必要词语和分心的词语以预测答案，在多个开放域多项选择 QA 数据集上进行了评估，尤其在 AI2 推理挑战（ARC）数据集上达到了业界最高水平。
open-domain question answeringretriever-reader modelessential term selectorenhanced readerai2 reasoning challenge
发现论文，激发创造
  • 把检索视为注意力：单个 Transformer 内检索和阅读的端到端学习

    通过使用 Retrieval as Attention (ReAtt) 和 Transformer，我们的研究表明，通过端到端的培训，单个模型可以同时实现有竞争力的提取和问答表现，在监督和无监督的设置中显著提高其在超领域数据集上的性能。

    Dec, 2022

  • 开放域问答的多文档阅读器和检索器的端到端训练

    提出了一种针对获取增强型开放领域问答系统的端到端可区分训练方法，它结合多个已检索文件的信息来生成答案，通过期望最大化算法的近似计算来建模检索决策，证明了该方法优于现有同类方法，达到了新的最高水平。

    Jun, 2021

  • 可扩展开放领域问答的多步检索器和阅读器交互

    该论文介绍了一种新的开放域问答框架，其中检索器和阅读器相互迭代交互，引入了多步推理机制，有助于从长度为百万级的语料库中检索信息性段落，并应用于不同的问答数据集和模型中均取得了一致性的提升。

    May, 2019

  • Retriever 是否只是 Reader 的逼近算法？

    该研究讨论了基于开放域问题回答的现状，重点研究了 retriever 和 reader 之间的关系，通过实证分析表明，两者在准确性方面互为补充。其次提出将 reader 稀疏化，吸收 reader 的优势并保持自身的优点，实验结果表明我们的方法可以提高 off-the-shelf retrievers 在开放域 QA 任务中的文档查全率以及端到端 QA 的准确性。

    Oct, 2020

  • 从阅读器向检索器提取知识以作问答之用

    本文提出了一种受到知识蒸馏启发的学习信息检索器的技术，在没有标注的查询和文档对的情况下，利用阅读器模型的注意力分数来获得检索器的合成标签，用于下游任务，最终在问题回答方面达到了最先进的结果。

    Dec, 2020

  • 弱监督开放域问答的潜在检索

    本文提出了一种新的 open domain question answering 方法，利用问题 - 回答对来同时学习 retriever 和 reader，将 Wikipedia 中的证据检索视为潜在变量，并通过 Inverse Cloze Task 进行预训练。我们的方法在五个 QA 数据集上进行测试，表明在用户真正寻求答案的数据集上，学习检索至关重要，完全匹配方面的得分比传统的 IR 系统（如 BM25）高达 19 个点。

    Jun, 2019

  • 开放域问答只需一个模型

    本研究提出了一种基于 transformer 架构的内部逐层注意力机制，将知识库搜索模型和重排模型整合为统一的模型，并进行端到端训练，以实现高效利用模型容量并提高梯度流量。该模型可以在固定参数预算内显著优于现有模型，达到 1.0 和 0.7 的精准匹配得分。

    Dec, 2021

  • 训练用于开放域问答的排名函数

    该研究提出了两个神经网络排序器，用于评分不同段落是否包含特定问题的答案，进一步分析了语义相似性与单词级相关性匹配在开放域 QA 中的相对重要性。

    Apr, 2018

  • 开放域问答系统综述：检索与阅读

    本文综述了 OpenQA 领域的最新研究趋势，重点关注采用神经 MRC 技术的系统，介绍了现代 OpenQA 体系结构 Retriever-Reader 及采用该体系结构的各种系统，讨论了开发 OpenQA 系统面临的关键挑战，并对常用的基准进行了分析。

    Jan, 2021

  • UnitedQA: 开放领域问答的混合方法

    本文研究了一种混合的提取式和生成式阅读器方法，以及如何结合这两种方法进行问答。我们通过一些新技术对预训练的神经语言模型进行了改进，证明了这种方法比以前最先进的模型效果更好，取得了 3.3 和 2.7 的提升。

    Jan, 2021