ICLRMay, 2019

可扩展开放领域问答的多步检索器和阅读器交互

PDF
TL;DR该论文介绍了一种新的开放域问答框架，其中检索器和阅读器相互迭代交互，引入了多步推理机制，有助于从长度为百万级的语料库中检索信息性段落，并应用于不同的问答数据集和模型中均取得了一致性的提升。
open-domain question answeringmachine reading modelretrievaliterative interactionmulti-step-reasoning
发现论文，激发创造
  • 使用迭代文档重新排序回答任意跳开放领域问题

    本文提出了一种统一的 QA 框架，以回答任何跨域问题，包括多步骤文档检索，图形重新排序模型及多文档交互等技术，从而提高检索精度及性能。

    Sep, 2020

  • 开放域问答的多文档阅读器和检索器的端到端训练

    提出了一种针对获取增强型开放领域问答系统的端到端可区分训练方法，它结合多个已检索文件的信息来生成答案，通过期望最大化算法的近似计算来建模检索决策，证明了该方法优于现有同类方法，达到了新的最高水平。

    Jun, 2021

  • 开放域问答的两步问题检索

    本文提出了一个两步骤的问题检索模型 SQuID，使用两种编码器进行问题检索，第一步检索器选择前 k 个类似的问题，第二步检索器从前 k 个问题中找到最相似的问题，实验证明 SQuID 显著提高了现有问题检索模型的性能，对推理速度的减少可以忽略不计。

    May, 2022

  • UnitedQA: 开放领域问答的混合方法

    本文研究了一种混合的提取式和生成式阅读器方法，以及如何结合这两种方法进行问答。我们通过一些新技术对预训练的神经语言模型进行了改进，证明了这种方法比以前最先进的模型效果更好，取得了 3.3 和 2.7 的提升。

    Jan, 2021

  • 一种带有统一知识接口的开放领域问答系统

    本文提出了一种基于数据和文本的统一问答框架 UDT-QA，并使用数据到文本方法将 Wiki 百科中的表格和 Wikidata 中的图表达为口语化信息，以扩展知识索引。实验证明，该方法取得了自然问答 (Single-model state-of-the-art) 的最佳成果，并表明对于调整和热插拔的两种情况，口语化知识的优先考虑可以优化答案推理。

    Oct, 2021

  • 面向开放域问答的多跳段落检索

    本文提出了一种方法，用于在大量知识库之中检索多个支持段落，以回答所提出的问题。该方法使用联合向量表示形式，并考虑知识源中段落的上下文句子表示形式。该技术在 SQuAD-Open 和 HotpotQA 的数据集上实现了开放域问答的最新成果。

    Jun, 2019

  • R$^3$: 强化学习阅读器 - 排名器用于开放领域问答

    本文提出了一种基于神经网络和增强学习的新型开放领域问答系统，通过信息检索结合阅读理解模型对大规模语料库进行查询，显著提高了多个数据集的表现。

    Aug, 2017

  • 生成 - 检索 - 生成：一种开放领域问答的新方法

    通过结合文档检索技术与大型语言模型 (LLM)，我们提出了一种名为 Generator-Retriever-Generator (GRG) 的新方法，通过首先命令模型根据给定的问题生成上下文文档，然后使用双编码器网络从外部语料库中检索与问题相关的文档。将生成的和检索的文档传递给第二个 LLM 模型，生成最终的答案。通过结合文档检索和 LLM 生成，我们的方法解决了开放域问答的挑战，如生成信息丰富且上下文相关的答案。GRG 在 TriviaQA、NQ 和 WebQ 数据集上表现优于最先进的生成 - 阅读和检索 - 阅读流水线 (GENREAD 和 RFiD)，性能至少提高了 + 5.2、+4.2 和 + 1.6。我们提供代码、数据集和检查点。

    Jul, 2023

  • Retriever 是否只是 Reader 的逼近算法？

    该研究讨论了基于开放域问题回答的现状，重点研究了 retriever 和 reader 之间的关系，通过实证分析表明，两者在准确性方面互为补充。其次提出将 reader 稀疏化，吸收 reader 的优势并保持自身的优点，实验结果表明我们的方法可以提高 off-the-shelf retrievers 在开放域 QA 任务中的文档查全率以及端到端 QA 的准确性。

    Oct, 2020

  • 从文本中回答具有不同推理步骤的开放领域问题

    通过使用单个多任务 transformer 模型，我们设计了一个统一的系统，可以迭代地检索支持事实，重新排序它们，并从所有检索的文档中预测答案，从而回答各种需要不同数量的检索步骤的开放领域问题。我们构建了一个新的基准测试 BeerQA，并证明我们的模型在现有基准测试和这个新基准测试上都表现出有竞争力的表现。

    Oct, 2020