SetRank: 学习一种置换不变的信息检索排序模型

SIGIRDec, 2019

SetRank: 学习一种置换不变的信息检索排序模型

SetRank: Learning a Permutation-Invariant Ranking Model for Information Retrieval

Liang Pang, Jun Xu, Qingyao Ai, Yanyan Lan, Xueqi Cheng...

TL;DR本论文提出了一个名为 SetRank 的新型神经学习排序模型，使用自我注意力机制和感知不变性来捕捉跨文档相互作用以及局部上下文信息，从而实现对任意大小文档集的置换不变性排名。与传统的学习排名模型和最先进的神经 IR 模型相比，经实验证明，SetRank 在三个大型基准测试中表现显着优于基线。

Abstract

In learning-to-rank for information retrieval, a ranking model is automatically learned from the data and then utilized to rank the sets of retrieved documents. Therefore, an ideal ranking model would be a mappin

learning-to-rank neural network information retrieval self-attention permutation-invariant

发现论文，激发创造

SetRank：基于集合贝叶斯方法的隐式反馈协同排名

本文提出了一种基于集合的贝叶斯方法 SetRank 用于协同排序，旨在最大化新颖的集合偏好比较的后验概率。同时作者还经过理论分析表明误差的上界与用户和产品数量成正比。最后，四个真实世界数据集的广泛实验清楚地验证了 SetRank 相对于各种现有技术基线的优越性。

Feb, 2020

用排列替代评分：一种上下文集合排列学习排序的框架

STARank 是一种新的学习排名框架，可以直接生成候选项的排列而无需单独评分和排序，旨在解决学习排名任务中的问题。与现有的基于概率排序原则的解决方案相比，STARank 在性能上表现更加优越。

Aug, 2023

显式与隐式语义排名框架

本文介绍了一种基于转换器的语义学习排序框架，Self-training Semantic Cross-attention Ranking（sRank）。在 Microsoft 的两个行业任务 Smart Reply（SR）和 Ambient Clinical Intelligence（ACI）中获得了质量和效率方面的实质性收益，PPG 得分都得到了提高，能够为客户提供技术支持和在医疗笔记中提供指导。

Apr, 2023

深入研究信息检索中的神经排名模型

该研究论文主要讨论了信息检索中的排名模型如何应用传统启发式方法、概率方法和现代机器学习技术等技术构建，并重点介绍了基于浅层或深层神经网络的神经排名模型，分析了其基本原理和学习策略，并通过基准测试比较了这些模型，最后探讨了当前文献中存在的问题以及未来的发展方向。

Mar, 2019

具有弱监督的神经排名模型

本文提出了使用弱监督学习方法训练神经排序模型来解决信息检索排名问题，并通过实验结果表明，基于弱标记数据的预训练可以极大地提高神经排序模型的性能。

Apr, 2017

通过优化置换学习集合表示

探讨了学习集合表示的挑战性。通过引入置换优化模块来解决这一问题，该模块学习如何对一个集合进行置换，通过对置换后的集合进行处理，以避免传统集合模型中的瓶颈，进而实现学习该集合具有不变性的表征。通过对数排序，图像马赛克，图像马赛克分类和视觉问答等四个数据集进行明确或隐式监督的训练，证明了我们模型的置换和集合表示学习能力。取得了最先进的结果。

Dec, 2018

基于随机点击模型的在线学习排序算法

提出了一个新的在线学习排序算法 - BatchRank，适用于广泛的点击模型，包括级联和基于位置的模型，并在 Web 搜索查询的一系列测试中性能优越。

Mar, 2017

度量空间中的排名赌博机：在大型文档集上学习最佳多样性排名

本研究提出一种学习排序的公式，并针对文档相似性和排名上下文，提出几种可扩展的算法，优化满足用户需求的数量，是从文献中的 “排名老虎机” 和 “Lipschitz bandits” 两个多臂老虎机模型推广的。经实验证明，我们的算法学习速度比以前的方法快几个数量级。

May, 2010

学习丰富排序

采用基于选择建模的上下文重复选择（CRS）模型，结合多模态模型，提供了生成丰富的排名空间的工具，同时使用结构相关的尾部风险和期望风险界限，对该模型的最大似然估计提供了严格的理论保证，并且在多项式逻辑选择模型（MNL）和 Plackett-Luce（PL）排名模型的预期风险以及 PL 排名模型的尾部风险方面也提供了前所未有的紧密界限。该 CRS 模型在各种场景下明显优于现有的排名数据建模方法，包括比赛和排名投票。

Dec, 2023

多重集合表示学习

本研究旨在通过学习置换不变表征来捕捉 “灵活的” 包含概念，并通过多重集的测量理论定义形式化此问题，提出理论动机的学习模型，并提出在新任务上进行训练：预测多重集对之间的对称差（或交集）的大小。我们展示了我们的模型不仅在预测包含关系方面表现出色（比具有无约束对象表示的 DeepSets 方法更有效地预测对称差和交集的大小），而且还学习了有意义的表示。

Nov, 2019