构建推荐系统中的大规模基数处理
本文介绍了一种应用图神经网络和对比学习框架来提取用户偏好的新方法,该方法结合了软聚类架构,极大地减少了推断过程的计算成本,实验表明该模型能以低计算成本学习用户偏好,并具有较高的准确性,我们将其称为 EfficientRec。
Jan, 2024
本文提出一种基于树的方法来解决推荐系统中引入更多表现形式且更为复杂的模型(例如深度神经网络)时所面临的计算困难问题。我们的方法可以提供对数级的计算复杂度,并在两个大规模真实世界数据集上取得了较好的实验效果,同时在淘宝广告平台的在线 A/B 测试中也证明了它在生产环境下的有效性。
Jan, 2018
本文提出了一种名为 LoID 的 “插件式” 语义知识传递方法,其中包括两个主要组成部分:基于 LoRA 的大型语言模型预训练以提取多方面的语义信息;基于 ID 的对比目标以对齐它们的特征空间。我们在真实数据集上使用 SOTA 基线进行了大量实验证明了我们的方法 LoID 的显著改进。
Mar, 2024
本研究使用 Word2Vec 技术应用于推荐系统领域,通过利用 Check-ins 这一非文本特征向用户推荐地点,实验结果表明使用 Word2Vec 对推荐系统中物品的连续向量表示能够取得良好的效果。
Jan, 2016
本论文旨在为大型 vocab 稀疏特征的推荐系统学习高度紧凑的嵌入。我们提出了不同可微的产品量化(DPQ)方法,并提出了一种多粒度量化嵌入(MGQE)技术,以更好地处理推荐系统中常见的幂律数据分布。实验结果表明,我们只需要使用原始模型大小的大约 20%,即可实现与原始模型大小相当或更好的性能。
Feb, 2020
借助大型语言模型(LLMs)预训练的能力来提升推荐系统的性能,采用 LLMs 作为物品编码器,通过 LEARN 框架将开放世界知识与协同知识相结合,以解决冷启动和长尾用户推荐中的性能问题。
May, 2024
该论文通过使用基于 RQ-VAE 的语义 ID 替代随机生成 ID 的方式来解决推荐系统中的冷启动问题,并展示了语义 ID 对模型的泛化能力的提升。
Jun, 2023
本文提出了一种基于矩阵分解的协同过滤框架,旨在针对开放世界推荐系统中遇到的新用户进行归纳式表示学习并取得良好效果。模型使用了注意力机制进行双模型转换,运用神经信息传递技术计算新场景下用户嵌入。实验结果表明,我们的模型可实现在有限的训练数据下,针对新用户的优秀推荐,并具有等效的矩阵因式分解表现。
Jul, 2020
为建立成功的推荐系统,我们需要针对用户偏好和物品属性描述寻找关键维度,其中在像服装推荐等领域,将用户偏好解释为建模所需的物品的视觉外观也使得推荐变得更具挑战性,因此本论文提出了一种采用新型层次嵌入结构,可以同时考虑高层次(颜色、暗度等)和微妙(例如休闲度)的视觉特征维度,以应对真实世界数据集的稀疏性、可变性和规模。
Apr, 2016
推荐系统中的嵌入技术是关键,它将高维离散特征转化为低维连续向量以提升推荐性能,并涵盖协同过滤、自监督学习和基于图的技术,同时介绍了自动机器学习、哈希技术和量化技术,旨在改善推荐系统的性能和降低计算复杂性。
Oct, 2023