推荐作为语言处理:一种统一的预训练、个性化提示和预测范式 (P5)
本文首次尝试运用 Prompt Learning 模型中的 cloze-style 任务,设计了 Prompt4NR 框架,包含了离散、连续和混合模板,并使用 Prompt Ensemble 方法,成功提升了新闻推荐效果,实验采用了 MIND 数据集进行验证。
Apr, 2023
我们提出了 PAP-REC,一种用于生成个性化自动提示的 RECommendation 语言模型的框架,旨在解决手动设计提示的低效和低效问题,并通过实验证明自动生成的提示优于手动构造的提示和各种基线推荐模型。
Feb, 2024
发展了一种令人信服,精确,个性化,与偏好相关的语言模型 (P4LM),该模型通过使用用户偏好的嵌入空间表示来生成富有说服力的回复,同时强调解释物品特征及其相关性。此外,还开发了一个联合奖励函数,用于衡量精确性、吸引力和个性化,该函数用作基于增强学习的语言模型框架中的人工智能反馈。使用 MovieLens 25M 数据集证明了 P4LM 向用户提供了引人入胜、个性化的电影叙事。
Oct, 2023
该研究论文调查和组织了一种新兴的自然语言处理范式,这种范式被称为 “基于提示的学习”,并在其中介绍了其基础知识和数学符号,以及其在预训练模型、提示和调整策略等方面的相关研究成果,该框架通过使用模板将输入 x 修改为具有一些未填充信息的文本字符串提示 x',并将语言模型用于填充未填充信息以获得最终字符串 x,从而实现零样本学习和少样本学习。
Jul, 2021
通过利用现有的大规模预训练语言模型 M6,基于改进的 prompt tuning 算法和技术手段,建立了一个统一的基础模型,支持工业推荐系统中开放式的各种任务;实现了高效的推理和模型压缩,为检索、排序、零样本推荐、解释生成、个性化内容创建和对话式推荐等任务提供了通用性解决方案。
May, 2022
以大型语言模型 (Large Language Models) 为基础的食品推荐系统 (F-RLP) 通过食品推荐的语言处理方法 (Recommendation as Language Processing) 解决了传统基于规则和分类的食品推荐系统面临的问题,提供更准确、个性化的食品推荐。
Feb, 2024
ChatGPT 在自然语言理解方面取得了显著的成功。为了将 ChatGPT 的基本模式应用于推荐任务,我们在项目索引级别上设计了一个新的聊天框架。我们的创新主要包括模型、训练和推断等三个方面。通过在离线公共数据集和在线 A/B 测试中进行实验证明了我们提出方法的有效性。
Apr, 2024
通过训练泛域用户 - 物品交互数据,我们提出了一个适应性泛型推荐系统,该系统能够捕捉通用交互模式,并能在不同领域中快速适应以提高零样本和少样本学习性能。然而,不同领域的推荐数据存在域内和跨域偏差,我们通过引入因果去偏视角和预测模型 PreRec 有效克服了这一挑战,实证结果表明在跨市场和跨平台场景下,该模型能显著提升推荐性能。
Oct, 2023
通过利用任务和提示的特征,AdaPrompt 使预训练语言模型不断预训练,提高了 NLP 方面几个基准测试中的表现,在零样本情况下相对误差降低了高达 26.35%。
Feb, 2022