基于预训练语言模型的知识感知协同过滤用于个性化基于评论的评分预测

Aug, 2023

基于预训练语言模型的知识感知协同过滤用于个性化基于评论的评分预测

Knowledge-aware Collaborative Filtering with Pre-trained Language Model for Personalized Review-based Rating Prediction

Quanxiu Wang, Xinlei Cao, Jianyong Wang, Wei Zhang

TL;DR为解决个性化基于评论的评分预测中的问题，提出了一种名为 KCF-PLM 的知识感知协同过滤与预训练语言模型的方法，将评论文本、方面、知识图和预训练语言模型结合起来，通过表示传播和用户 - 物品引导关注来模拟用户 - 物品交互，实验证明了 KCF-PLM 的有效性。

Abstract

personalized review-based rating prediction aims at leveraging existing reviews to model user interests and item characteristics for rating prediction. Most of the existing studies mainly encounter two issues. First, the rich knowledge contained in the fine-grained aspects of each revi

personalized review-based rating prediction knowledge-aware collaborative filtering pre-trained language models transformer network knowledge graph

发现论文，激发创造

知识增强的预训练语言模型：综述

本文论述了预训练语言模型（PLM）的重要性以及知识增强型预训练语言模型（KE-PLMs）的研究现状，探讨了 KE-PLMs 在各种 NLU 和 NLG 应用中的超越性能以及 KE-PLMs 面临的挑战和未来研究方向。

Oct, 2021

利用预训练语言模型增强新闻推荐

本文介绍了使用预训练语言模型进行个性化新闻推荐的方法，通过离线实验结果表明，该方法在英语和全球市场上都取得了显著的点击和页面查看量的提高，关键词包括个性化新闻推荐、文本建模、预训练语言模型、新闻建模和离线实验结果。

Apr, 2021

大型语言模型与协同过滤相遇：一种高效全能基于 LLM 的推荐系统

提出了一种高效的全方位基于语言模型的推荐系统，能够在冷和热场景下表现出卓越的性能，并利用协同知识和高质量用户 / 物品嵌入来生成自然语言输出。

Apr, 2024

知识增强预训练语言模型综述

本文利用分类法阐述了如何将外部知识融入预训练语言模型（PLMs）中解决其因缺乏外部知识而导致的推理能力不足问题，以及 KE-PLMs 在 NLU 和 NLG 任务中的应用和未来发展方向。

Nov, 2022

KELM：在分层关系图上使用信息传递增强预训练语言表示的知识

该论文提出了一种基于微调过程的知识感知语言模型框架，将领域知识通过关系图嵌入到预训练语言模型中并进行动态更新，取得了比其他知识增强模型更显著的机器阅读理解任务的性能改进。

Sep, 2021

从大型语言模型到推荐系统的知识迁移：实践工业应用

借助大型语言模型（LLMs）预训练的能力来提升推荐系统的性能，采用 LLMs 作为物品编码器，通过 LEARN 框架将开放世界知识与协同知识相结合，以解决冷启动和长尾用户推荐中的性能问题。

May, 2024

利用预训练语言模型和微调增强电子商务推荐

本文研究了将预训练语言模型应用于传统推荐算法中对电子商务数据集的影响，并将结果与基准模型进行了比较。通过领域特定的微调，将 PLMs 应用于传统推荐算法中可以提高模型的预测能力。这些结果凸显了在电子商务环境中利用文本信息的重要性，并提供了更好地应用 PLMs 的见解。

Feb, 2023

从评论中学习分布式表示用于协同过滤

通过引入自然语言评论作为优化产品表示的一种方式，将旁路信息融入基于协同过滤的推荐系统可以提高其性能表现；本文提出两种不同类型的评论模型，包括基于神经网络的词袋专家模型和循环神经网络模型，并证明前者的模型灵活性表现出了更高的性能表现，超越了基于 LDA 的方法。

Jun, 2018

大型语言模型是具有竞争力的几乎是零启动推荐器，适用于基于语言和项目的偏好

传统的推荐系统利用用户对项目的偏好历史记录来推荐新内容，而现代对话界面则提供了一种基于语言偏好表达的基本不同模式。本文研究了大型语言模型 (LLM) 的提示范式在使用基于项目和语言偏好的推荐中与最先进的基于项目的协同过滤 (CF) 方法相比的应用。通过收集既包含基于项目偏好又包含基于语言偏好的新数据集，以及用户对多种（有偏见的）推荐项目和（无偏见的）随机项目的评分，支持了这一调查。在众多实验结果中，我们发现对于纯语言偏好（无项目偏好）的情况，LLM 在近乎冷启动的情况下与基于项目的 CF 方法相比提供了有竞争力的推荐性能，尽管其在这个特定任务上没有进行监督训练（零射击）或只有少数标签（少射击）。这一点尤其令人鼓舞，因为基于语言偏好的表示比基于项目或基于向量的表示更加可解释和可审查。

Jul, 2023

利用显式知识提升预训练语言模型的段落重排能力

使用知识图谱，结合自然语言处理模型和图神经网络为基础，研究出一种新的知识型篇章再排序方法，提高了特定领域问题的查询准确性。

Apr, 2022