本文介绍了使用 Transformer-Kernel 模型进行文档重排序的方法，并通过 TREC 2019 深度学习赛道的评价来表明其有效性。

Dec, 2019

本文所研究的 Transformer-Kernel 模型已经在 TREC Deep Learning benchmark 中表现出强大的重排名表现，它是 BERT 排名模型的有效但略微不够有效的替代品。本文将 TK 体系结构扩展到全检索设置并考虑查询术语独立假设，提出将 Conformer 层结合在一起，同时还演示了将显式术语匹配信号纳入模型可能在全检索设置中特别有用的初步结果。

Jul, 2020

本文中探索了一种利用递归神经网络来挖掘社交媒体中时间信号的替代方法，将已有的神经排序模型与双向 LSTM 层集成，以抓取相邻文档在时间上的时序连贯性，并且实验证明通过整合语义和时间信号可以显著提高排序的效果。

Jul, 2017

本文提出了一种新的长文档重新排序方法，通过利用自注意力机制和模块化 Transformer 框架建立查询到文档的交互模型，避免了编码过程中低维度表示带来的信息瓶颈，实现了从全部文档中提取重要信息的目的，并在 Robust04 和 ClueWeb09 等数据集上实现了有效的重新排序。

May, 2022

PreTTR 算法广泛应用在各种排名任务中的预训练 transformer 网络，能够消除实践中计算昂贵的限制，提高实时排名的速度，通过训练压缩层来匹配注意力分数，可以有效地减少存储需求，而排名性能不会受到重大影响。

Apr, 2020

本文提出了一种基于核的神经模型 K-NRM，用于文档排序，它使用翻译矩阵来建模单词级别的相似性，采用新的核汇集技术来提取多级软匹配特征，并将这些特征组合成最终排名分数。经实验证明，K-NRM 模型在商业搜索引擎的查询日志上优于之前的基于特征和神经网络方案，并解释了 K-NRM 优势的来源：其基于核的嵌入编码了一种适合将查询词与文档词匹配的相似性测量，并提供了有效的多级软匹配。

Jun, 2017

本文提出了一种两阶段的重新排序方法，通过使用对话上下文模型重新排序第一阶段问题的候选项来帮助弥合训练 - 推断差距，从而解决了由于现有系统使用间接数据或专家知识开发而导致的模型训练 - 推理鸿沟问题，并发现相对于专家系统，我们所提出的全局重新排序器结合转换器骨干的最佳性能，导致 30％更高的标准化折扣累积增益（nDCG）和 77％更高的平均精度（mAP）。

Apr, 2023

本文提出了一种上下文感知的神经排序模型，通过引入两级分层循环神经网络对查询、搜索任务进行搜索上下文表示的学习，并结合文档排序和查询建议两个伴随的检索任务来提高检索性能，并在循环状态的两个级别上引入注意力机制来识别搜索上下文和用户正在进行的搜索活动之间的可变依赖结构。通过丰富的实验比较以及深入的消融分析，证实我们所提出的方法对于建模搜索任务中隐藏的搜索上下文具有价值。

Jun, 2019

在这篇论文中，我们探索了一种低资源替代方法，即基于词嵌入的文档检索模型，发现它在与信息检索任务上经过微调的大型 Transformer 模型相比具有竞争力。我们的结果表明，将 TF-IDF（传统的关键词匹配方法）与浅层嵌入模型简单组合，提供了一种低成本的方法，使其在 3 个数据集上与复杂的神经排序模型的性能相媲美。此外，添加 TF-IDF 度量改进了这些任务上大规模微调模型的性能。

Aug, 2023

该研究研究了应用不同类型的特征来学习对社区问答中的问题重新排序的影响，并在 SemEval-2016 的两个数据集上测试了我们的模型。该研究表明，使用句法树核和包 - 词特征能够提高重新排序的效果。

Oct, 2016