利用零样本问题生成技术提升段落检索效果

EMNLPApr, 2022

利用零样本问题生成技术提升段落检索效果

Improving Passage Retrieval with Zero-Shot Question Generation

Devendra Singh Sachan, Mike Lewis, Mandar Joshi, Armen Aghajanyan, Wen-tau Yih...

TL;DR本文提出一种简单有效的重新排序方法，利用预训练语言模型计算与检索的段落之间的关联度，从而提高开放式问题回答中的检索效果，并在多个数据集上进行了评估和实验，使得无监督和有监督的模型的检索准确率分别提高了 6-18% 和 12%。

Abstract

We propose a simple and effective re-ranking method for improving passage retrieval in open question answering. The re-ranker re-scores retrieved passages with a zero-shot question generation model, which uses a

passage retrieval question generation re-ranking language model open-domain

发现论文，激发创造

领域定向合成问题生成进行零样本神经网络段落检索

通过合成问题生成技术缩小了零样本训练模型与基于术语技术模型之间的差距，提高了针对特定领域的文档的检索效果。

Apr, 2020

利用生成模型结合段落检索进行开放域问答

研究使用生成模型在开放领域问答中的表现，发现利用文本段落检索可以显著提高性能，证明生成模型擅长聚合和组合多个段落的证据，同时在 Natural Questions 和 TriviaQA 开放式基准测试中取得最好的结果。

Jul, 2020

开放域问答中的答案重新排序的证据聚合

本文提出了两种新的模型，在公开领域问答数据集中取得了最具竞争力的结果。这两种方法是使用多篇文章生成答案。

Nov, 2017

零样本槽位填充的强健检索增强生成

本文提出了一种使用 hard negatives 和强健的训练程序增强检索生成模型而进行零样本槽填充的新方法，该方法在 T-REx 和 zsRE 槽填充数据集上都有较大的改进，并在 KILT 排行榜上排名首位。此外，通过零 / 少样本学习的组合，我们在 TACRED 数据集的新变体上演示了我们系统的适应能力，并发布了源代码和预训练模型。

Aug, 2021

基于嵌入的零样本检索通过查询生成

本文通过采用两塔架构来建立神经检索模型，并提出了一种新的用于检索的合成数据生成方法，显著优于基于词汇匹配算法的 BM25，并在 5 个测试数据集中平均提高 Recall@1 指标 2.45 个点。

Sep, 2020

面向对话式搜索的零次查询重构

通过无监督对话查询改写，解决了普遍存在的语义歧义和遗漏问题，提升了零样本会话搜索的性能和可解释性。

Jul, 2023

BERT 的文章重新排序

本文介绍了一个基于查询的段落重排的 BERT 的简单重新实现，该系统在 TREC-CAR 数据集上处于技术先进地位，是 MS MARCO 段落检索任务排行榜中的前列，优于以前的技术领先 27%（相对于 MRR @ 10）。

Jan, 2019

PReGAN：弱监督 GAN 答案导向的段落排名

本文提出了一种名为 PReGAN 的基于生成对抗神经网络的段落重新排序方法，该方法在答案相关性鉴别器的基础上加入了一种答案可答性鉴别器，以更好地确定正确的答案相关段落，提高问答系统的效率，并且无需使用外部数据即可超越现有方法。

Jul, 2022

利用语言模型提示的多跳 QA 的少样本重新排序

本文提出了一种基于大型语言模型的 PromptRank 方法，可用于多跳 QA 的少样本重新排序，该方法构建一个基于指令的提示，在给定问题和路径提示的条件概率下计算给定问题和文档路径之间的相关性得分，并且在 HotpotQA 数据集上具有强大的检索性能。

May, 2022

开放域问答只需一个模型

本研究提出了一种基于 transformer 架构的内部逐层注意力机制，将知识库搜索模型和重排模型整合为统一的模型，并进行端到端训练，以实现高效利用模型容量并提高梯度流量。该模型可以在固定参数预算内显著优于现有模型，达到 1.0 和 0.7 的精准匹配得分。

Dec, 2021