本文提出了一种新的open domain question answering方法, 利用问题-回答对来同时学习retriever和reader，将Wikipedia中的证据检索视为潜在变量，并通过Inverse Cloze Task进行预训练。我们的方法在五个QA数据集上进行测试，表明在用户真正寻求答案的数据集上，学习检索至关重要，完全匹配方面的得分比传统的IR系统（如BM25）高达19个点。

Jun, 2019

本篇论文介绍了一个用于评估大规模句子级别答案检索模型的基准Retrieval Question-Answering（ReQA），并使用神经编码模型和传统信息检索技术建立了基线。我们提供我们的评估代码以鼓励更多关于这一具有挑战性的任务的研究。

Jul, 2019

利用 ColBERT 模型定义了 ColBERT-QA，采用细粒度相互作用和弱监督策略来提升开放域问答的效果，实验结果表明在三个数据集上均取得了最先进的提取式开放域问答性能。

Jul, 2020

本文提出了一种受到知识蒸馏启发的学习信息检索器的技术，在没有标注的查询和文档对的情况下，利用阅读器模型的注意力分数来获得检索器的合成标签，用于下游任务，最终在问题回答方面达到了最先进的结果。

Dec, 2020

本文研究了一种混合的提取式和生成式阅读器方法，以及如何结合这两种方法进行问答。我们通过一些新技术对预训练的神经语言模型进行了改进，证明了这种方法比以前最先进的模型效果更好，取得了3.3和2.7的提升。

Jan, 2021

本文综述了OpenQA领域的最新研究趋势，重点关注采用神经MRC技术的系统，介绍了现代OpenQA体系结构Retriever-Reader及采用该体系结构的各种系统，讨论了开发OpenQA系统面临的关键挑战，并对常用的基准进行了分析。

Jan, 2021

提出了一种针对获取增强型开放领域问答系统的端到端可区分训练方法，它结合多个已检索文件的信息来生成答案，通过期望最大化算法的近似计算来建模检索决策，证明了该方法优于现有同类方法，达到了新的最高水平。

Jun, 2021

本研究提出了一种基于transformer架构的内部逐层注意力机制，将知识库搜索模型和重排模型整合为统一的模型，并进行端到端训练，以实现高效利用模型容量并提高梯度流量。该模型可以在固定参数预算内显著优于现有模型，达到1.0和0.7的精准匹配得分。

Dec, 2021

本文介绍了一种基于无监督预训练的 ODQA 方法，通过 recurrent span retrieval 从文档中创建伪例子进行对比学习，控制 pseudo 查询和相关段落之间的术语重叠，从而允许模拟它们之间的词汇和语义关系，得到命名为“Spider”的模型，具有出色的性能，且不需要任何有标签的训练数据。

Dec, 2021

通过使用Retrieval as Attention (ReAtt)和Transformer，我们的研究表明，通过端到端的培训，单个模型可以同时实现有竞争力的提取和问答表现，在监督和无监督的设置中显著提高其在超领域数据集上的性能。

Dec, 2022