EMNLPSep, 2021

R2-D2：开放领域问答的模块化基线

PDF
TL;DRR2-D2 是一个四阶段的开放领域问答管道，由检索器、段落重新排名器、抽取读取器、生成读取器以及一个聚合所有系统组成部分的终极预测机制组成。我们在三个开放领域问答数据集上展示了其优势，并超越了前两个的最新成果。我们的分析表明：(i) 将抽取式和生成式读取器相结合可以产生达到 5 个精确匹配的绝对改进，其效果至少是使用不同参数的同一模型的后验平均集成的两倍。(ii) 在抽取式问答数据集上，具有更少参数的抽取式读取器可以与生成式读取器的表现相匹配。
open-domain qar2-d2retrieverextractive readergenerative reader
发现论文，激发创造
  • R$^3$: 强化学习阅读器 - 排名器用于开放领域问答

    本文提出了一种基于神经网络和增强学习的新型开放领域问答系统，通过信息检索结合阅读理解模型对大规模语料库进行查询，显著提高了多个数据集的表现。

    Aug, 2017

  • 可扩展开放领域问答的多步检索器和阅读器交互

    该论文介绍了一种新的开放域问答框架，其中检索器和阅读器相互迭代交互，引入了多步推理机制，有助于从长度为百万级的语料库中检索信息性段落，并应用于不同的问答数据集和模型中均取得了一致性的提升。

    May, 2019

  • 开放领域的会话问答的强大且高效的基线模型

    通过研究状况下的密集通道检索（DPR）检索器和解码中的融合（FiD）阅读器的流程，我们提出和评估了强大而简单高效的基准线，通过在检索器和阅读器之间引入快速重新排列组件并执行有针对性的微调步骤，改进了现有方法的性能，并减少了阅读器的延迟 60%。

    Oct, 2023

  • UnitedQA: 开放领域问答的混合方法

    本文研究了一种混合的提取式和生成式阅读器方法，以及如何结合这两种方法进行问答。我们通过一些新技术对预训练的神经语言模型进行了改进，证明了这种方法比以前最先进的模型效果更好，取得了 3.3 和 2.7 的提升。

    Jan, 2021

  • 开放域问答的两步问题检索

    本文提出了一个两步骤的问题检索模型 SQuID，使用两种编码器进行问题检索，第一步检索器选择前 k 个类似的问题，第二步检索器从前 k 个问题中找到最相似的问题，实验证明 SQuID 显著提高了现有问题检索模型的性能，对推理速度的减少可以忽略不计。

    May, 2022

  • 一种灵活框架的零样本文档级问答检测、检索和理解

    本文提出了一种三阶段文件 QA 方法，包括从 PDF 中提取文本，从提取的文本中检索证据以形成良好的上下文，以及从上下文中提取 3 种类型的知识（抽取式、生成式或布尔式）。通过对 QASPER 的评估，DRC 系统在交付更优的上下文选择的同时，Answer-F1 达到了 +7.19 的提高。结果表明，DRC 在科学文献 QA 中有很大的亮点。

    Oct, 2022

  • 检索，阅读，重新排名：面向端到端多文档阅读理解

    本文提出了 RE$^3$QA，一种统一的问答模型，它结合了上下文检索、阅读理解和答案重排序来预测最终答案。与以往的流水线方法不同，RE$^3$QA 跨不同的组件共享上下文化的文本表示，并设计了高质量的上游输出来直接监督下游模块，从而避免了上下文不一致的问题，实现了端到端的训练。实验证明，我们的模型优于管道基线，在两个版本的 TriviaQA 和两个变体的 SQuAD 上实现了最先进的结果。

    Jun, 2019

  • QUADRo: 问题 - 答案数据库检索的数据集和模型

    本文提出了一种基于神经信息检索和重新排名的自动问答系统，利用包含 6.3M 问题和回答对的数据库，实现了开放域问答并超越了传统的非结构化文本或图形搜索方法，并证明了基于 Transformer 模型的 (q,a) 对比仅考虑问题表示更优，该方法具有和在 BING 搜索引擎上构建的 QA 系统竞争的优点。

    Mar, 2023

  • 训练用于开放域问答的排名函数

    该研究提出了两个神经网络排序器，用于评分不同段落是否包含特定问题的答案，进一步分析了语义相似性与单词级相关性匹配在开放域 QA 中的相对重要性。

    Apr, 2018

  • 开放域问答只需一个模型

    本研究提出了一种基于 transformer 架构的内部逐层注意力机制，将知识库搜索模型和重排模型整合为统一的模型，并进行端到端训练，以实现高效利用模型容量并提高梯度流量。该模型可以在固定参数预算内显著优于现有模型，达到 1.0 和 0.7 的精准匹配得分。

    Dec, 2021