从大型语言模型到推荐系统的知识迁移：实践工业应用

May, 2024

从大型语言模型到推荐系统的知识迁移：实践工业应用

Knowledge Adaptation from Large Language Model to Recommendation for Practical Industrial Application

Jian Jia, Yipei Wang, Yan Li, Honggang Chen, Xuehan Bai...

TL;DR借助大型语言模型（LLMs）预训练的能力来提升推荐系统的性能，采用 LLMs 作为物品编码器，通过 LEARN 框架将开放世界知识与协同知识相结合，以解决冷启动和长尾用户推荐中的性能问题。

Abstract

Contemporary recommender systems predominantly rely on collaborative filtering techniques, employing ID-embedding to capture latent associations among users and items. However, this approach overlooks the wealth

recommender systems collaborative filtering latent associations large language models knowledge integration

发现论文，激发创造

突破壁垒：通过推理知识图谱利用大型语言模型用于工业推荐系统

LLM-KERec 利用大型语言模型捕捉用户意图转变，适应新项目，并提高在不断发展的电子商务领域中的推荐效率，通过整合互补知识解决传统推荐系统的局限性。

Feb, 2024

利用大型语言模型进行推荐的表示学习

通过整合大型语言模型与推荐系统的表示学习，我们提出了一个模型不可知的框架 RLMRec，旨在增强现有的推荐器，并提高其对于用户行为和偏好的语义理解，同时通过交叉视角对齐框架，将 LLM 的语义空间与协同关系信号的表示空间相对应。

Oct, 2023

大型语言模型与协同过滤相遇：一种高效全能基于 LLM 的推荐系统

提出了一种高效的全方位基于语言模型的推荐系统，能够在冷和热场景下表现出卓越的性能，并利用协同知识和高质量用户 / 物品嵌入来生成自然语言输出。

Apr, 2024

KELLMRec：知识增强的大型语言模型用于推荐

利用外部知识辅助大规模语言模型（LLM）在生成真实可用的文本方面具有潜力，因此我们提出了一种名为‘Knowledge-Enhanced LLMRec’的方法，通过使用外部知识在生成过程中，并且通过基于知识的对比学习方案来训练模型，实验证实了该方法的有效性。

Mar, 2024

大型语言模型与机器学习在电子商务推荐中的新兴协同效应

电子商务和网络应用的蓬勃发展使得推荐系统成为我们日常生活中重要的一部分，但是现有基于深度神经网络的方法在理解用户兴趣、捕捉文本信息以及推广到不同场景等方面仍存在限制。近期的研究借助大型语言模型的崛起旨在改进推荐系统，本文系统回顾了已有的大型语言模型驱动的推荐系统，介绍了使用大型语言模型作为特征编码器学习用户和物品表示的方法以及在预训练、微调和提示等三个范式下的最新进展，并对这一新兴领域的未来方向进行了全面的讨论。

Mar, 2024

会话式推荐的项目语言模型

通过使用 Item-Language Model（ILM），我们提出了一种解决当前推荐系统方法中所面临的关键问题的方法，该方法既可以对用户交互信号进行编码，也可以利用预训练的 Large-language Models（LLMs）处理这些编码。

Jun, 2024

大语言模型时代的推荐系统

本论文对基于大型语言模型（LLMs）的推荐系统进行了全面综述，总结了 LLMs 在推荐系统中的应用方法，包括预训练、微调和提示，并讨论了未来方向。

Jul, 2023

通过大型语言模型增强基于内容的推荐系统

本文提出了一种名为 LoID 的 “插件式” 语义知识传递方法，其中包括两个主要组成部分：基于 LoRA 的大型语言模型预训练以提取多方面的语义信息；基于 ID 的对比目标以对齐它们的特征空间。我们在真实数据集上使用 SOTA 基线进行了大量实验证明了我们的方法 LoID 的显著改进。

Mar, 2024

推荐作为指令跟随：一个拥有大型语言模型的推荐方法

该论文提出了一种以自然语言为指令的方法来开发推荐模型，这种方法可以更好地适应用户需求，实现个性化推荐，并在真实数据集上比多个竞争基线模型表现更优。

May, 2023

大型语言模型是具有竞争力的几乎是零启动推荐器，适用于基于语言和项目的偏好

传统的推荐系统利用用户对项目的偏好历史记录来推荐新内容，而现代对话界面则提供了一种基于语言偏好表达的基本不同模式。本文研究了大型语言模型 (LLM) 的提示范式在使用基于项目和语言偏好的推荐中与最先进的基于项目的协同过滤 (CF) 方法相比的应用。通过收集既包含基于项目偏好又包含基于语言偏好的新数据集，以及用户对多种（有偏见的）推荐项目和（无偏见的）随机项目的评分，支持了这一调查。在众多实验结果中，我们发现对于纯语言偏好（无项目偏好）的情况，LLM 在近乎冷启动的情况下与基于项目的 CF 方法相比提供了有竞争力的推荐性能，尽管其在这个特定任务上没有进行监督训练（零射击）或只有少数标签（少射击）。这一点尤其令人鼓舞，因为基于语言偏好的表示比基于项目或基于向量的表示更加可解释和可审查。

Jul, 2023