在多阶段推荐系统中，重新排名通过建模项之间的内部列表相关性发挥着关键作用。在重新排名中的关键挑战在于在排列组合空间中探索最优序列。最近的研究提出了一个生成器 - 评估器学习范式，其中生成器生成多个可行序列，评估器基于估计的列表得分选择出最佳序列。生成器是至关重要的，而生成模型非常适合生成器函数。然而，在实时工业系统中部署自回归模型是具有挑战性的。因此，我们提出了一种用于重新排名推荐的非自回归生成模型 (NAR4Rec)，旨在提高效率和效果。为了解决与稀疏训练样本和动态候选项对模型收敛的影响相关的挑战，我们引入了匹配模型。考虑到用户反馈的多样性，我们提出了一种序列级别的非可能性训练目标，以区分可行序列和不可行序列。此外，为了克服非自回归模型中关于目标项的依赖建模不足的问题，我们引入了对比解码来捕捉这些项之间的相关性。对公开可用数据集进行的大量离线实验验证了我们所提出方法与现有最先进的重新排名方法相比的卓越性能。此外，我们的方法已在拥有超过 3 亿日活跃用户的热门视频应用快手上完全部署，显著提高了在线推荐的质量，展示了我们方法的有效性和效率。

Feb, 2024

本文提出了基于学习的排序方案来解决自回归模型中的图生成和排序问题，并通过实验证明该方案在各种图生成任务上的有效性，鼓舞未来工作进一步探索和发展学习排序方案。

May, 2023

该研究提出了一种无监督、可并行学习的语言模型生成算法，使用置换矩阵表示自回归顺序，并通过多步生成式注意力将其作为目标顺序进行训练，并在语言建模任务中获得了有竞争力或者优秀的表现。

Oct, 2021

本文提出了一种使用递归神经网络和无序正则化项进行顺序图生成的方法，以解决顺序生成导致的问题，并证明该方法在数据稀缺的情况下对顺序图生成模型有益处，为合成逼真、多样化图结构的各种应用提供了有价值的工具。

Feb, 2024

提出了一种新颖的非自回归排序网络，探索了句子之间的双边依赖并并行预测每个位置的句子，实验证明该模型在句子排序任务中优于自回归方法并具有竞争性的性能。

Oct, 2023

该研究提出了一个名为 AOT-Net 的抽象意见标记框架来生成一个排名列表的意见标记，以便于消费者快速了解大量有关该商品的评论，该框架能够有效地应对评论的噪声特性、意见标记的正式特性与评论的口头语言使用之间的区别以及需要区分几个非常相似方面的不同商品等三个主要挑战。进行的广泛实验验证了该方法在各种评估指标方面的有效性，并创造和发布了一个名为 eComTag 的大规模数据集，该数据集从真实的电子商务网站爬取。

Jan, 2021

提出了一种基于用户标签对象三元图的推荐算法，考虑到社交标签在信息检索中的重要作用，该算法计算时间成本低，并在 Del.icio.us 和 MovieLens 两个真实数据集上的实验结果表明它可以提高算法准确性和多样性，特别是在用户拥有多样的标签主题时可以获得更个性化的推荐结果。此外，算法精度依赖性的数值结果表明，该算法对于小度对象尤其有效，有效解决了推荐系统中众所周知的冷启动问题，尤其在具有异质性对象度分布的社交标记系统中表现显著。

Apr, 2010

提出一种新颖的单阶段生成检索模型，将 Amazon 数据集用于训练，结果表明，这种模型能够获得更好的推荐效果和更好的泛化能力以推荐 “冷启动” 物品。

May, 2023

本论文提出了一个基于注意力机制的排序框架，旨在训练模型进行句子排序和辨别任务。该框架采用双向句子编码器和自注意力变换网络以获取与输入顺序无关的段落表示。同时，它能够使用各种基于排序的损失函数进行无缝训练，并在两个任务中应用。实验结果表明，该框架在多个评估指标上优于众多最先进的方法。同时，相对于点对排序损失函数，该框架在使用点对和列表排序损失函数时取得更好的结果，这表明将两个或多个句子的相对位置纳入损失函数有利于更好的学习。

Dec, 2019

基于大型语言模型的检索模型和嵌入式检索模型的结合，对零样本检索问题，即无目标领域标记数据的情况下，综合了生成增强检索和检索增强生成两种范式，并通过新颖的 GAR-meets-RAG 循环公式在零样本环境中迭代改进检索和重写阶段，实现了对系统召回率的提升和最终精准度的提高。

Oct, 2023