矩阵分解的高效混合维度嵌入

May, 2022

Efficient Mixed Dimension Embeddings for Matrix Factorization

Dmitrii Beloborodov, Andrei Zimovnov, Petr Molodyk, Dmitrii Kirillov

TL;DR本文提出了两种采用混合维度嵌入的矩阵分解模型，可以采用交替最小二乘法以大规模并行的方式进行优化，并针对用户和项目的流行度偏斜实现了是用稀疏，混合维度或共享嵌入降低参数数量和过度拟合的研究。

Abstract

Despite the prominence of neural network approaches in the field of recommender systems, simple methods such as matrix factorization with

neural network approaches matrix factorization alternating least squares recommender systems embeddings

发现论文，激发创造

具有共享用户嵌入的交叉属性矩阵分解模型

通过将深度学习技术应用于推荐系统，本文提出了一种改良的跨属性矩阵因子分解模型，该模型不仅考虑了用户与物品之间的交互，还跨越了相关属性，有效解决了冷启动问题。实验证明，在高数据稀疏性的情况下，该模型在 Movielens 和 Pinterest 数据集上表现优越。

Aug, 2023

应用于内存高效推荐系统的混合维度嵌入

通过使用混合维度嵌入层架构，将嵌入向量的维度与其查询频率相匹配，可以显著降低内存使用，并同时提高机器学习性能，作者在 Criteo Kaggle 数据集上进行了实验验证。

Sep, 2019

基于元数据嵌入的用户和商品冷启动推荐

本文介绍了一种混合矩阵分解模型，通过将用户和项目表示为其内容特征的潜在因素的线性组合，能在各种情况下优于协同过滤、基于内容的模型，特别是在使用用户和项目元数据进行稀缺交互数据的情况下表现优异，并在交互数据丰富的情况下至少与纯协议矩阵分解模型表现一样好，产生的特征嵌入编码了语义信息，类似于词嵌入方法，使它们对一系列相关任务如标签推荐非常有用。

Jul, 2015

基于聚类的矩阵分解

本文提出了一种将通用邻域信息添加到推荐模型的矩阵分解扩展，并将用户和项目分成不同的类别，以查看这些类别共享的偏好。实验证明，将类别的通用潜在特征应用于分解的推荐模型可以提高推荐的准确性。

Jan, 2013

通过矩阵分解的几何解释和分析实现公正的推荐

该研究提出了一种基于矩阵分解的推荐系统，称为 ParaMat，通过对原始数据的几何形状进行分析，设计了一种新的算法并在实验测试中与其他 8 个算法进行比较，证明其是最公平的算法。

Jan, 2023

度量分解：超越矩阵分解的推荐

提出了一种新的推荐技术，称为 “度量分解”，通过使用欧几里得距离测量用户和项目之间的显式接近度来克服矩阵分解中采用的点积无法满足不等式的问题。实验证明，我们的方法在评分预测和项目排名任务上均优于现有的最先进方法。

Feb, 2018

面向开放世界推荐：一种基于归纳模型的协同过滤方法

本文提出了一种基于矩阵分解的协同过滤框架，旨在针对开放世界推荐系统中遇到的新用户进行归纳式表示学习并取得良好效果。模型使用了注意力机制进行双模型转换，运用神经信息传递技术计算新场景下用户嵌入。实验结果表明，我们的模型可实现在有限的训练数据下，针对新用户的优秀推荐，并具有等效的矩阵因式分解表现。

Jul, 2020

神经协同过滤与矩阵分解再探讨

本文探讨了通过神经协同过滤中的多层感知机 (MLP) 学习相似性和点积进行组合嵌入的方法，并证明在恰当的超参数选择下，使用简单的点积可以显著优于所提出的学习相似性的方法。

May, 2020

基于特征的矩阵分解

本技术报告介绍了特征基矩阵分解的实现，该模型是矩阵分解模型的许多变体的抽象，可以通过定义新特征而利用新类型的信息，而无需修改任何代码。使用该工具包，我们构建了 KDDCup'11 赛道 1 报告的最佳单个模型。

Sep, 2011

神经网络矩阵分解

本文介绍一种基于神经网络与矩阵分解的方法，使用最优化技术得到潜在特征向量并据此构建神经网络，进而代替传统内积的矩阵分解方法，从而在一些测试数据集上达到更好的效果。

Nov, 2015