本研究表明，在信息检索任务中，经过裁剪的小型语言模型是大型、速度慢得多的模型的强有力竞争者。在信息检索实际应用中，由于延迟限制，压缩和稠密模型成为首选。然而，通过实验，我们发现模型大小和早期查询文档交互对检索模型的泛化能力起着重要作用。增加模型大小在相同领域的测试数据集上几乎没有增益，但在从未在训练中见过的新领域上存在更大的提高。此外，我们还显示 reranker 在几个任务中大大优于其大小相似的稠密模型。我们的最大 reranker 在 Benchmark-IR（BEIR）的 18 个数据集中的12个数据集中达到了最先进水平，平均超过了以前的最优结果3个点。最后，我们证实，域内有效性不是零-shot有效性的好指标。

Jun, 2022

该论文提出了一种简单的方法，使用大规模语言模型作为信息检索的检索器，从而在零-shot场景下提高检索效率。该方法通过在检索词和其他相关域内候选之间进行组合，来辅助语言模型生成更精确的答案，使得检索更加透明，从而实现竞争力更强的检索结果。

Apr, 2023

我们介绍了RankVicuna，它是第一个完全开源的大型语言模型，能够在零样本情况下进行高质量的列表排序。在TREC 2019和2020深度学习跟踪的实验结果显示，我们可以使用比GPT-3.5小得多的7B参数模型达到与零样本重新排序相当的有效性，尽管我们的有效性略低于GPT-4重新排序。我们希望我们的工作为未来关于使用现代大型语言模型进行重新排序的研究提供基础。我们的全部代码以供重现结果，请访问此https URL。

Sep, 2023

大型语言模型在零样本文档排序任务中展现出令人印象深刻的效果，本研究通过在一致的实验框架下全面评估Pointwise、Pairwise和Setwise提示方法，考虑模型大小、令牌消耗、延迟等因素，找出各方法之间存在的效果和效率之间的权衡。我们发现，尽管Pointwise方法在效率上得分较高，但效果较差；相反，Pairwise方法在效果上表现出色，但计算开销较大。为了进一步提高基于大型语言模型的零样本排序的效率，我们提出了一种新颖的Setwise提示方法，通过减少排名过程中的LLM推理次数和提示令牌的消耗量，显著提高了基于大型语言模型的零样本排序的效率。我们使用TREC DL数据集和BEIR零样本文档排序基准测试了我们的方法，实证结果表明我们的方法在大幅减少计算成本的同时，同时保持了较高的零样本排序效果。

Oct, 2023

通过引入一种新颖的指令提炼方法，将开源的Large Language Models（LLMs）的成对排序能力提炼为更简单、更高效的逐点排序，以提高LLMs的排序性能和效率。

Nov, 2023

利用贝叶斯决策理论提出的UR^3框架有效地改进了Retrieval-Augmented Generation系统的Top-1准确率，通过最大化文档生成的概率在统一的风险最小化目标下优化查询和文档生成概率。

Jun, 2024

本研究针对传统监督排名模型在复杂处理流程中的问题，提出了一种利用少量例子的成对排名模型。通过从训练集中增强相似查询的偏好示例，我们的方法在检索基准上显示出明显的性能提升，接近于监督模型的表现，同时避免了复杂的训练流程。

Sep, 2024

本研究解决了在零样本推理中缺乏训练样本对的问题，针对成对文档的偏好预测任务，通过增强来自训练集的相似查询偏好示例来提升模型性能。提出的少样本成对排名模型在多个检索基准测试中表现出色，接近监督模型的效果，且无需复杂的训练流程。

Sep, 2024

本研究解决了大型语言模型（LLMs）在信息检索中的重新排序能力受限制的问题，提出了一种名为“情境内重新排序”（ICR）的新方法。通过直接利用搜索查询引起的注意力模式变化，ICR显著提高了重新排序的效率，并且可适用于任何LLM，实验证明其在性能上优于现有方法，并减少了超过60%的延迟。

Oct, 2024

本研究解决了大型语言模型（LLMs）在商业搜索系统中因高成本而无法直接应用的问题。通过将LLMs的排名知识转移到更小的模型BERT上，采用持续预训练和排名损失的创新方法，研究提出了一种有效的模型训练策略。该方法已在商业网页搜索引擎中成功应用，展现出显著的效能提升。

Nov, 2024