Aug, 2021

使用伪相关反馈技术改进密集检索的查询表示

PDF
TL;DR本文提出了一种新的查询编码器 ——ANCE-PRF，利用伪相关反馈（PRF）来改进稠密检索的查询表示，使用 BERT 编码器消耗查询和从密集检索模型中检索到的顶级文档，直接从相关标签中产生更好的查询嵌入。
dense retrievalembeddingpseudo relevance feedbackbert encoderquery representations
发现论文，激发创造
  • 基于伪相关反馈的密集检索查询表示：重现性研究

    本文研究了基于稠密循环器的 Pseudo-Relevance Feedback (PRF) 方法，并探讨了其在不同情况下如何提高搜索效果，包括训练过程、推理过程和使用不同的稠密循环器。

    Dec, 2021

  • 基于伪相关反馈的多重表示密集检索

    本研究探讨了基于伪相关反馈的多重嵌入密集检索方法的潜力。通过从第一遍密集检索中确定的伪相关文件集中提取代表性反馈嵌入，然后将其添加到查询表示中，证明了这些附加反馈嵌入不仅能够提高重新排序的有效性，还能提高附加密集检索操作的效率。

    Jun, 2021

  • 采用深度语言模型和密集检索器的伪相关反馈：成功与困难

    本文研究了将 Pseudo Relevance Feedback 方法集成到基于深度语言模型的 rerankers 和 dense retrievers 中的方法，并对基于文本和向量的 PRF 方法进行了考虑和评估。在四个数据集和两个任务设置下进行了广泛的实证评估。结果表明，vector-based PRF 方法有效提高了 deep rerankers 和 dense retrievers 的检索和排名效果。

    Aug, 2021

  • NPRF: 用于 Ad-hoc 信息检索的神经假相关反馈框架

    本文提出了一个端到端的神经伪相关反馈（PRF）框架，通过将不同的神经模型嵌入到建筑块中，可以与现有的神经信息检索模型一起使用来改善它们的性能。在两个标准测试集上的广泛实验证实了提出的 NPRF 框架在改善两个最先进的神经 IR 模型的性能方面的有效性。

    Oct, 2018

  • 通过生成伪查询嵌入以改善密集检索的文档表示

    本论文提出了一种基于聚类的检索模型，通过迭代聚类过程来模拟查询，并将文档表示为多个伪查询，通过两步得分计算程序优化匹配函数，实现了高效的近似最近邻搜索，达到了最先进的结果。

    May, 2021

  • APRF-Net: 基于注意力机制的伪相关反馈网络用于查询分类

    本文提出了一种名为 APRF-Net 的神经模型，将伪相关反馈（PRF）方法应用于查询分类中，以改善较为罕见的查询的表现，通过实验结果表明，这种模型可以显著提高查询分类效果。

    Apr, 2021

  • 选择查询包作为信息寻求对话中的伪相关反馈

    本论文提出了一种 Query-bag 基于伪相关反馈的框架（QB-PRF），通过构建与查询相关的查询包作为伪信号来指导信息检索对话，采用对比学习训练无监督方式中的同义查询选择模块（QBS），通过多维注意力计算融合同义查询的查询包融合模块（QBF），验证其在两个预训练骨干模型（BERT 和 GPT-2）上的优越性能。实验结果表明，QB-PRF 框架在两个基准数据集上的表现比强基线模型更好。

    Mar, 2024

  • 无相关标签的精确零样本密集检索

    本篇论文中，我们提出一种基于 Hypothetical Document Embeddings (HyDE) 的零样本密集检索方法，其中通过无监督编码器将虚构文档编码为向量，并在文本相似性检索中表现出强大的性能。

    Dec, 2022

  • LoL: 伪相关反馈的查询重构损失与比较正则化损失的比较

    提出了一种名为 Loss-over-Loss (LoL) 的框架，该框架通过在训练期间比较不同查询的重制损失来区分相关和不相关信息，并通过惩罚使用更多反馈但获得更大损失的修订来实现比较正则化，以提高伪相关反馈的效率。

    Apr, 2022

  • 密集文本检索的近似最近邻负对比学习

    本文提出了一种新型的训练机制 --- ANCE (Approximate nearest neighbor Negative Contrastive Estimation), 它使用了一个近似最近邻索引来构建负面示例，以更好地解决稠密检索中负面实例训练不足的问题，并且通过实验证明了其在 BERT 模型上的有效性能达到了最佳效果。

    Jul, 2020