Apr, 2024

GenQREnsemble：用于生成性查询重表述的零射预训练语言模型集成提示

PDF
TL;DR通过使用零 - shot 询问版本，我们提出了一种基于集成提示技术的查询再构建方法，称为 GenQREnsemble，该方法利用零 - shot 指令的释义生成多组关键词，从而最终提高检索性能。
query reformulationzero-shot qrensemble prompting strategiesgenqrensembleretrieval performance
发现论文，激发创造
  • 使用集成提示、文档融合和相关反馈的生成查询重构

    通过使用两种基于集成的提示技术（GenQREnsemble 和 GenQRFusion）来改进搜索查询的检索性能，利用反馈信息提供更好的搜索体验，并建立了自动查询改写的最新技术水平。

    May, 2024

  • 深度加强型查询重构用于信息检索

    通过使用深度强化学习模型，本研究提出了一个自动生成措辞的查询改写模型。在模型中结合了查询性能预测方法以产生高效的查询。并且针对信息检索的情境下，运用了信息检索排名模型训练，并在 TREC 2020 Deep Learning track MSMARCO 文献排名数据集上进行实验。结果表明，与各种基线模型相比，本研究的模型性能得到了较大提高。

    Jul, 2020

  • 面向对话式搜索的零次查询重构

    通过无监督对话查询改写，解决了普遍存在的语义歧义和遗漏问题，提升了零样本会话搜索的性能和可解释性。

    Jul, 2023

  • ConvGQR: 面向对话搜索的生成查询改写

    本文提出了 ConvGQR 的框架，该框架基于生成预训练语言模型，一种用于查询重写，另一种用于生成潜在答案。通过结合两者，ConvGQR 可以产生更好的搜索查询。此外，我们提出了一种知识注入机制来优化查询重写和检索，实验表明 ConvGQR 的有效性。

    May, 2023

  • 相对为上！-- 一种用于提升零样本相关性预测的合成查询生成方法

    最近大型语言模型（LLMs）的发展表明，通过仅给出少量示例，可以生成合成的查询 - 文档对，从而为建立更好的信息检索模型提供支持，特别是对于没有可用训练数据的任务。本文提出通过同时为不同标签生成查询来减轻 LLMs 的负担，通过大量实验发现，以这种方式生成的合成查询在下游任务中表现更好，说明生成的查询确实具有更高的质量。

    Nov, 2023

  • 少样本生成式对话查询重写

    该研究提出了一种用于会话查询重写的 few-shot 生成方法，使用规则和自监督学习生成弱监督数据，并使用 GPT-2 进行优化以重写会话查询，在 TREC Conversational Assistance Track 上，我们的弱监督 GPT-2 重写器提高了 12％的准确性，仅使用极少量的手动查询重写。在零 - shot 学习设置下，该重写器仍然能够给出与之前最先进的系统相当的结果。

    Jun, 2020

  • ReGen: 通过渐进式稠密检索生成训练数据进行零样本文本分类

    本研究提出了一个检索增强的框架，使用特征描述性词语作为 dense retriever，从无标注的语料库中创建训练数据，以便在与基于大型自然语言生成模型相比节省 70% 的时间内，取得优于最强基线 4.3% 的成绩。

    May, 2023

  • 基于约束生成的离散提示优化用于零样本重排

    本研究旨在探索大规模语言模型用于信息检索的零 - shot 重排问题。我们提出了一种新颖的离散提示优化方法 Co-Prompt，并将其应用于零 - shot 重排任务中。实验表明，Co-Prompt 相对于基线有着卓越的重排表现，并且生成更易于人理解的提示。

    May, 2023

  • 利用零样本问题生成技术提升段落检索效果

    本文提出一种简单有效的重新排序方法，利用预训练语言模型计算与检索的段落之间的关联度，从而提高开放式问题回答中的检索效果，并在多个数据集上进行了评估和实验，使得无监督和有监督的模型的检索准确率分别提高了 6-18% 和 12%。

    Apr, 2022

  • GAR 与 RAG 范式的零样本信息检索

    基于大型语言模型的检索模型和嵌入式检索模型的结合，对零样本检索问题，即无目标领域标记数据的情况下，综合了生成增强检索和检索增强生成两种范式，并通过新颖的 GAR-meets-RAG 循环公式在零样本环境中迭代改进检索和重写阶段，实现了对系统召回率的提升和最终精准度的提高。

    Oct, 2023