研究使用生成模型在开放领域问答中的表现，发现利用文本段落检索可以显著提高性能，证明生成模型擅长聚合和组合多个段落的证据，同时在 Natural Questions 和 TriviaQA 开放式基准测试中取得最好的结果。

Jul, 2020

本文提出了一种优化的训练方法RocketQA来改进密集问答检索，通过跨批次负样例、去噪硬负样例和数据增强等三种策略的实验，证明该方法在MSMARCO和Natural Questions上都显著优于之前的最先进模型，并提高了end-to-end QA的性能。

Oct, 2020

提出HyperLink-induced Pre-training (HLP)方法来解决文档中基于超链接拓扑结构的相关性所面临的问题，为大规模预训练提供更加有效的相关性信号，从而使得在问答过程中的段落检索能够被更好地实现。在各种场景下，HLP方法都优于其他预训练方法。

Mar, 2022

本文提出一种简单有效的重新排序方法，利用预训练语言模型计算与检索的段落之间的关联度，从而提高开放式问题回答中的检索效果，并在多个数据集上进行了评估和实验，使得无监督和有监督的模型的检索准确率分别提高了6-18%和12%。

Apr, 2022

本文提出了一种名为GripRank的算法，它通过从一个生成式的通道评估器到一个通道排名器的知识精华的提炼来解决候选通道在检索过程中被平等对待的问题，并通过设计一套课程知识提炼机制来提升知识的提炼质量，实现了对答案的生成和文本排名的优化，最终在KILT基准测试中展现出优于同类方法的结果。

May, 2023

开放领域问答（ODQA）作为信息系统中的关键研究领域已经崛起。现有方法采用两种主要范式来收集证据：（1）“先检索然后阅读”范式从外部语料库中检索相关文档；（2）“先生成然后阅读”范式使用大型语言模型（LLMs）生成相关文档。然而，两者都无法完全满足证据的多方面需求。因此，本文提出了LLMQA，一种通用框架，将ODQA过程分为三个基本步骤：查询扩展、文档选择和答案生成，结合了基于检索和基于生成的证据的优势。由于LLMs展示了在各种任务中表现出的出色能力，我们在框架中指导LLMs担任多个角色，作为生成器、重新排序器和评估器，集成它们在ODQA过程中的协作。此外，我们引入了一种新颖的提示优化算法，以改进角色扮演提示，引导LLMs生成更高质量的证据和答案。在广泛使用的基准测试（NQ、WebQ和TriviaQA）上进行的大量实验结果表明，LLMQA在答案准确性和证据质量方面达到了最佳表现，展示了其推进ODQA研究和应用的潜力。

Mar, 2024

Open-domain Question Answering research investigates the generalization performance of a retrieval-augmented QA model, proposing Corpus-Invariant Tuning as an effective training strategy to mitigate knowledge over-memorization and achieve better generalizability.

Apr, 2024

通过总结检索，提高大型语言模型在开放域问答中的准确性，并能与各种检索方法和语言模型集成。

Apr, 2024

AdaQR 是一个框架，用于训练具有有限重写注释和完全没有段落标签的查询重写模型，通过从种子数据集中只使用 ~10% 的重写注释进行微调精简大型语言模型，然后利用这些模型为每个查询实例生成重写候选，并通过条件概率对这些候选进行检索者权重评估，这被用作优化重写器的奖励，进一步使用直接偏好优化 (DPO) 的过程进行优化，实验结果表明 AdaQR 不仅增强了具有有限注释要求的领域内重写器的功能，而且有效地适应了领域外数据集。

Jun, 2024

提出了一种称为问题和路径增强的简单而有效的方法，通过对原始问题进行多步子问题的扩充和规划，从而提升检索性能，以及通过语言模型生成的自我生成路径来指导答案抽取，实验证明该方案优于现有技术且在现有的检索-生成模型中实现了显著的性能提升。

Jun, 2024