Mar, 2024

悟空：大规模推荐系统的缩放定律探索

PDF
TL;DR提出了一种基于堆叠因子分解机的有效网络架构和协同放大策略 Wukong，以在推荐领域建立缩放律。通过更高更宽的层次结构，Wukong 能够捕捉到各种任意顺序的交互，同时在质量上始终优于其他最先进的模型，并且在模型复杂性上保持缩放律。
scaling lawsrecommendation modelsnetwork architecturestacked factorization machineswukong
发现论文，激发创造
  • 从大型语言模型到推荐系统的知识迁移：实践工业应用

    借助大型语言模型（LLMs）预训练的能力来提升推荐系统的性能，采用 LLMs 作为物品编码器，通过 LEARN 框架将开放世界知识与协同知识相结合，以解决冷启动和长尾用户推荐中的性能问题。

    May, 2024

  • 基于聚类和用户交互嵌入配置文件的高效无限用户 - 项目规模推荐系统

    本文介绍了一种应用图神经网络和对比学习框架来提取用户偏好的新方法，该方法结合了软聚类架构，极大地减少了推断过程的计算成本，实验表明该模型能以低计算成本学习用户偏好，并具有较高的准确性，我们将其称为 EfficientRec。

    Jan, 2024

  • 线性时间图神经网络可扩展的推荐系统

    在信息爆炸时代，推荐系统是为用户提供个性化推荐的重要工具。本文提出了一种线性时间图神经网络（LTGNN）来扩展基于 GNN 的推荐系统，以实现与经典 MF 方法相当的可扩展性，同时保持 GNN 强大的表达能力以获得更准确的预测。通过大量实验证明了所提算法的有效性和可扩展性。

    Feb, 2024

  • 突破壁垒：通过推理知识图谱利用大型语言模型用于工业推荐系统

    LLM-KERec 利用大型语言模型捕捉用户意图转变，适应新项目，并提高在不断发展的电子商务领域中的推荐效率，通过整合互补知识解决传统推荐系统的局限性。

    Feb, 2024

  • 面向开放世界推荐：一种基于归纳模型的协同过滤方法

    本文提出了一种基于矩阵分解的协同过滤框架，旨在针对开放世界推荐系统中遇到的新用户进行归纳式表示学习并取得良好效果。模型使用了注意力机制进行双模型转换，运用神经信息传递技术计算新场景下用户嵌入。实验结果表明，我们的模型可实现在有限的训练数据下，针对新用户的优秀推荐，并具有等效的矩阵因式分解表现。

    Jul, 2020

  • LKPNR: 个性化新闻推荐框架的 LLM 和 KG

    通过将大型语言模型（LLM）和知识图谱（KG）结合为传统方法的语义表示形式，该研究提出了一个新的通用框架，以准确地推荐候选新闻文章给用户，从而改善了新闻推荐系统中的个性化推荐效果。

    Aug, 2023

  • 基于树结构深度模型的推荐系统学习

    本文提出一种基于树的方法来解决推荐系统中引入更多表现形式且更为复杂的模型（例如深度神经网络）时所面临的计算困难问题。我们的方法可以提供对数级的计算复杂度，并在两个大规模真实世界数据集上取得了较好的实验效果，同时在淘宝广告平台的在线 A/B 测试中也证明了它在生产环境下的有效性。

    Jan, 2018

  • 大型语言模型作为推荐系统：流行偏见的研究

    研究探讨了大语言模型在推荐系统中对流行度偏差的贡献和缓解的机会，并提出了一种新的测量流行度偏差的指标，通过对电影推荐任务的比较发现，即使没有明确的缓解方法，大语言模型推荐系统仍然表现出较少的流行度偏差。

    Jun, 2024

  • 大型语言模型不稳定的推荐系统

    通过探索性研究，我们发现 LLMs 中的位置偏差会影响推荐系统的性能，因此我们提出了一个贝叶斯概率框架来校准 LLMs 的不稳定性，并增强推荐性能，实验证明了框架的有效性。

    Dec, 2023

  • 构建推荐系统中的大规模基数处理

    该论文提出了两种创新技术来解决推荐系统中高基数的挑战，通过采用词袋模型和层共享相结合的方法，显著减少模型大小并提高性能，在优步的使用案例中进行了离线和在线实验，取得了有希望的结果，展示了优化推荐系统及提高其整体性能的有效方法。

    Jan, 2024