推荐系统的聚类嵌入学习

Feb, 2023

Clustered Embedding Learning for Recommender Systems

Yizhou Chen, Guangda Huzhang, Anxiang Zeng, Qingtao Yu, Hui Sun...

TL;DR本文提出了 “聚类嵌入学习”（CEL）作为嵌入学习中应对冷启动、低频用户和项目，以及内存成本等问题的综合解决方案，能够自动且动态地通过自上而下的方法对用户和项目进行聚类，而聚类内的实体共同学习共享的嵌入向量，被验证在减小嵌入表大小、提高性能等方面具有显著优势。

Abstract

In recent years, recommender systems have advanced rapidly, where embedding learning for users and items plays a critical role. A standard method learns a unique embedding vector for each user and item. However, such a method has two important limitations in real-world applications: 1)

recommender systems embedding learning clustered embedding learning cold users and items memory cost

发现论文，激发创造

推荐系统中的嵌入：一项调查

推荐系统中的嵌入技术是关键，它将高维离散特征转化为低维连续向量以提升推荐性能，并涵盖协同过滤、自监督学习和基于图的技术，同时介绍了自动机器学习、哈希技术和量化技术，旨在改善推荐系统的性能和降低计算复杂性。

Oct, 2023

神经图协同过滤

本篇论文提出了一种新的推荐框架，名为神经图协同过滤 (NGCF)，它通过在用户 - 物品图上传递嵌入来利用用户物品图结构，并显式地将协同信号注入到嵌入过程中，以更好地捕捉协同过滤效果。在三个公共基准测试中进行了广泛的实验，表明 NGCF 相对于 HOP-Rec 和 Collaborative Memory Network 等几种最先进的模型具有显着的改进。

May, 2019

基于聚类和用户交互嵌入配置文件的高效无限用户 - 项目规模推荐系统

本文介绍了一种应用图神经网络和对比学习框架来提取用户偏好的新方法，该方法结合了软聚类架构，极大地减少了推断过程的计算成本，实验表明该模型能以低计算成本学习用户偏好，并具有较高的准确性，我们将其称为 EfficientRec。

Jan, 2024

增强推荐系统中的跨类别学习：多层嵌入训练

现代的基于 DNN 的推荐系统依赖于对稀疏特征进行训练得到的嵌入。输入的稀疏性使得对于很少出现的类别难以获得高质量的嵌入，因为它们的表示不经常更新。我们通过有效的跨类别学习在训练时演示了一种产生优越嵌入的技术，并从理论上解释了它的出人意料的有效性。这种称为多层嵌入训练（MLET）的方案使用嵌入层的分解来训练嵌入，内部维度高于目标嵌入维度。为了提高推理效率，MLET 将经过训练的双层嵌入转换为单层嵌入，从而保持推理时模型大小不变。在多个最先进的点击率（CTR）预测任务的推荐模型上进行测试时，MLET 始终产生更好的模型，特别是对于罕见的项目。在保持模型质量不变的情况下，MLET 允许模型的嵌入维度和模型大小分别减少高达 16 倍和平均减少 5.8 倍。

Sep, 2023

使用文本数据的个性化神经嵌入协同过滤

本论文提出了一种个性化神经嵌入框架 (PNE)，通过融合互动和单词来预测用户对物品的期望，解决了传统协同过滤方法中物品与用户关系稀疏的问题，并在两个真实数据集上展示了比四个基线模型更好的性能表现。同时，通过可视化展示了 PNE 可以学习到有意义的单词嵌入。

Mar, 2019

面向开放世界推荐：一种基于归纳模型的协同过滤方法

本文提出了一种基于矩阵分解的协同过滤框架，旨在针对开放世界推荐系统中遇到的新用户进行归纳式表示学习并取得良好效果。模型使用了注意力机制进行双模型转换，运用神经信息传递技术计算新场景下用户嵌入。实验结果表明，我们的模型可实现在有限的训练数据下，针对新用户的优秀推荐，并具有等效的矩阵因式分解表现。

Jul, 2020

学习弹性嵌入用于定制设备推荐算法

本研究提出了一种基于弹性嵌入的轻量级推荐算法，它允许在不重新训练的情况下自动适应任意设备特定的内存限制，并通过多样性驱动的规则化和性能估计法来获得更出色的性能表现。

Jun, 2021

利用热门选择加速推荐系统训练

通过研究推荐数据的使用方式和特征，本文提出了一种称为 FAE 框架的热嵌入感知数据布局，利用有限的 GPU 内存存储高访问嵌入，以减少 CPU 到 GPU 的数据传输并加速执行，从而将推荐模型的训练时间降低了 2.3 倍。

Mar, 2021

基于元数据嵌入的用户和商品冷启动推荐

本文介绍了一种混合矩阵分解模型，通过将用户和项目表示为其内容特征的潜在因素的线性组合，能在各种情况下优于协同过滤、基于内容的模型，特别是在使用用户和项目元数据进行稀缺交互数据的情况下表现优异，并在交互数据丰富的情况下至少与纯协议矩阵分解模型表现一样好，产生的特征嵌入编码了语义信息，类似于词嵌入方法，使它们对一系列相关任务如标签推荐非常有用。

Jul, 2015

可学习的推荐系统嵌入尺寸

本篇论文提出一种名为 PEP（即插入嵌入剪枝）的新方法，通过将冗余参数修剪掉提高了基本模型的性能，同时可以自适应地从数据进行修剪阈值的学习，从而自动获得混合维度的嵌入方案，有效地减少了嵌入参数。

Jan, 2021