Aug, 2021

采用深度语言模型和密集检索器的伪相关反馈：成功与困难

PDF
TL;DR本文研究了将 Pseudo Relevance Feedback 方法集成到基于深度语言模型的 rerankers 和 dense retrievers 中的方法，并对基于文本和向量的 PRF 方法进行了考虑和评估。在四个数据集和两个任务设置下进行了广泛的实证评估。结果表明，vector-based PRF 方法有效提高了 deep rerankers 和 dense retrievers 的检索和排名效果。
pseudo relevance feedbackdeep language modelstext-based approachvector-based approachretrieval and ranking
发现论文，激发创造
  • 基于伪相关反馈的密集检索查询表示：重现性研究

    本文研究了基于稠密循环器的 Pseudo-Relevance Feedback (PRF) 方法，并探讨了其在不同情况下如何提高搜索效果，包括训练过程、推理过程和使用不同的稠密循环器。

    Dec, 2021

  • NPRF: 用于 Ad-hoc 信息检索的神经假相关反馈框架

    本文提出了一个端到端的神经伪相关反馈（PRF）框架，通过将不同的神经模型嵌入到建筑块中，可以与现有的神经信息检索模型一起使用来改善它们的性能。在两个标准测试集上的广泛实验证实了提出的 NPRF 框架在改善两个最先进的神经 IR 模型的性能方面的有效性。

    Oct, 2018

  • 基于伪相关反馈的多重表示密集检索

    本研究探讨了基于伪相关反馈的多重嵌入密集检索方法的潜力。通过从第一遍密集检索中确定的伪相关文件集中提取代表性反馈嵌入，然后将其添加到查询表示中，证明了这些附加反馈嵌入不仅能够提高重新排序的有效性，还能提高附加密集检索操作的效率。

    Jun, 2021

  • 使用伪相关反馈技术改进密集检索的查询表示

    本文提出了一种新的查询编码器 ——ANCE-PRF，利用伪相关反馈（PRF）来改进稠密检索的查询表示，使用 BERT 编码器消耗查询和从密集检索模型中检索到的顶级文档，直接从相关标签中产生更好的查询嵌入。

    Aug, 2021

  • 选择查询包作为信息寻求对话中的伪相关反馈

    本论文提出了一种 Query-bag 基于伪相关反馈的框架（QB-PRF），通过构建与查询相关的查询包作为伪信号来指导信息检索对话，采用对比学习训练无监督方式中的同义查询选择模块（QBS），通过多维注意力计算融合同义查询的查询包融合模块（QBF），验证其在两个预训练骨干模型（BERT 和 GPT-2）上的优越性能。实验结果表明，QB-PRF 框架在两个基准数据集上的表现比强基线模型更好。

    Mar, 2024

  • LoL: 伪相关反馈的查询重构损失与比较正则化损失的比较

    提出了一种名为 Loss-over-Loss (LoL) 的框架，该框架通过在训练期间比较不同查询的重制损失来区分相关和不相关信息，并通过惩罚使用更多反馈但获得更大损失的修订来实现比较正则化，以提高伪相关反馈的效率。

    Apr, 2022

  • APRF-Net: 基于注意力机制的伪相关反馈网络用于查询分类

    本文提出了一种名为 APRF-Net 的神经模型，将伪相关反馈（PRF）方法应用于查询分类中，以改善较为罕见的查询的表现，通过实验结果表明，这种模型可以显著提高查询分类效果。

    Apr, 2021

  • 稠密通道检索器的复制研究

    本研究对 Karpukhin 等人于 2020 年提出的基于稠密编码的全域问答模型（DPR）进行了复制研究，其中发现原作者低估了 BM25 基准检索的有效性。我们通过改进的答案跨度评分技术，使用与原论文相同的模型获得更好的端到端问题答案准确性。

    Apr, 2021

  • 使用文本分类的伪相关反馈：最简单的可行之事

    本文提出了一种基于文档相关性分类器的技术，使用来自经过排序的初始列表的伪标签，然后将分类器应用于重新排列检索到的文档，以解决伪相关反馈的问题。该技术可以显著提高多个新闻集合的结果，包括使用词袋模型 BM25 以及精调查询扩展模型。

    Apr, 2019

  • 针对召回导向的神经信息检索的相关性反馈策略

    通过基于 BERT 的密集向量搜索产生的相关排名，并基于累积求和的查询和选择的嵌入，我们提出了一种更注重召回率的减少审核工作量的方法，该方法可与基线方法相比，以固定的召回目标为基础，减少 17.85% 至 59.04% 的审核工作量。

    Nov, 2023