May, 2024

SLMRec: 增强小型语言模型在顺序推荐任务中的能力

PDF
TL;DR本文通过在大规模行业数据集上进行广泛实验，发现大多数 LLMs 的中间层是多余的，并提出了一种名为 SLMRec 的基于小型语言模型的推荐模型，仅使用 LLM-based 推荐模型中 13% 的参数，同时在训练和推断时间成本上实现了高达 6.6 倍和 8.0 倍的加速。
sequential recommendationllmslanguage modelslmrecefficiency
发现论文，激发创造
  • DELRec: 提炼序列模式以增强基于 LLM 的推荐

    提出了 DELRec 框架，通过两种策略提取 SR 模型展示的行为模式，从而帮助 LLMs 更有效地执行 SR 任务。在三个真实数据集上的广泛实验结果验证了 DELRec 框架的有效性。

    Jun, 2024

  • LlamaRec：利用大型语言模型进行两阶段推荐排序

    最近，大型语言模型 (LLMs) 在语言理解和生成方面取得了显著的进展，通过利用文本特征，定制 LLMs 也被应用于推荐，并在各种推荐场景中展示出改进。为了验证所提出框架的有效性，在基准数据集上与最先进的基线方法进行比较，我们的实验结果证明了 LlamaRec 的性能，在推荐性能和效率方面都取得了卓越的表现。

    Oct, 2023

  • 小语言模型是否能成为顺序推荐的良好推理者？

    提出了一种基于知识蒸馏的逐步推理框架（SLIM），以在资源高效的方式下实现顺序推荐系统中的大型语言模型的优秀推理能力，通过基于用户行为序列的 CoT 提示生成的合理性用作标签，将合成的标签融入到更小的学生模型中，从而使学生模型能够在推荐任务中逐步推理，实验结果表明 SLIM 具有显著的有效性和可承受的推荐推理成本。

    Mar, 2024

  • 大型语言模型增强的长尾用户和物品的顺序推荐

    研究通过引入大型语言模型增强顺序推荐系统的性能，以应对长尾用户和长尾商品的挑战，并提出了融合语义信息和协同信号的双视图建模方法来解决这些问题。同时，通过使用检索增强的自蒸馏技术，对用户偏好表示进行改进。实验证明，所提出的增强框架相比现有方法表现更优。

    May, 2024

  • GenRec: 大型生成式推荐模型

    使用大型语言模型 (LLM) 为基础的生成式推荐 (GenRec) 方法，通过解释上下文、学习用户偏好和生成相关推荐，充分利用大型语言模型编码的丰富知识，为推荐系统带来革命性的潜力和未来发展方向。

    Jul, 2023

  • LLMRec：在推荐任务上对大规模语言模型进行基准测试

    通过 LLMRec，我们对各种推荐任务对多个常用的 LLM 模型进行了基准测试，发现 LLM 模型在准确性任务中表现中等，但在可解释性任务中与最先进的方法相比具有相当的性能，并通过定性评估进一步验证了生成内容的质量和合理性。

    Aug, 2023

  • 利用大型语言模型进行推荐的表示学习

    通过整合大型语言模型与推荐系统的表示学习，我们提出了一个模型不可知的框架 RLMRec，旨在增强现有的推荐器，并提高其对于用户行为和偏好的语义理解，同时通过交叉视角对齐框架，将 LLM 的语义空间与协同关系信号的表示空间相对应。

    Oct, 2023

  • 推荐系统中的大型语言模型调查

    本文概论了基于大型语言模型的推荐系统，提出了两种主要类型（分别为判别型 LLM 推荐 DLLM4Rec 和生成型 LLM 推荐 GLLM4Rec），分别从方法、技术和性能等方面对现有的 LLM 推荐系统进行了系统的分类和评估，并指出了主要挑战和有价值的发现。

    May, 2023

  • 大语言模型时代的推荐系统

    本论文对基于大型语言模型（LLMs）的推荐系统进行了全面综述，总结了 LLMs 在推荐系统中的应用方法，包括预训练、微调和提示，并讨论了未来方向。

    Jul, 2023

  • E4SRec：大规模语言模型在序列推荐中的优雅有效高效可扩展解决方案

    这篇论文介绍了一种将大型语言模型与传统推荐系统相结合的解决方案，能够有效地实现顺序推荐，同时解决了大型语言模型在个性化推荐中的挑战。

    Dec, 2023