Aug, 2023

线性自编码器隐式 ZCA 白化在推荐任务中的效果

PDF
TL;DR在推荐系统领域，线性回归（自编码器）模型被研究作为学习物品相似性的方法。本文展示了线性自编码器模型与基于 ZCA 白化的推荐数据之间的关联。特别地，我们展示了线性自编码器模型的对偶形式解实际上对物品的特征向量具有 ZCA 白化效果，而在自编码器 / 回归模型的原问题中，物品被视为输入特征。我们还展示了将线性自编码器应用于使用例如 Item2vec 获得的低维物品向量来估计物品相似性的正确性。我们的实验提供了初步结果，表明白化低维物品嵌入的有效性。
recommendation systemslinear regressionautoencoderzca whiteningitem embeddings
发现论文，激发创造
  • 稀疏数据的浅层自编码器

    本研究提出一种基于简单元素的线性模型，针对推荐系统的稀疏数据和隐式反馈数据，并展示其训练目标具有闭式解，该简单模型在所有公开数据集上都取得了比深度非线性模型更好的排名准确性。

    May, 2019

  • 线性自编码器中的弱化对角约束用于推荐

    本文旨在探究线性自编码器性质，揭示 L2 正则化和零对角约束对其影响，并提出了 Relaxed Linear AutoEncoder (RLAE) 和 Relaxed Denoising Linear AutoEncoder (RDLAE) 模型，实验结果表明，这些模型优于现有线性和非线性模型，尤其对长尾项目的准确性有明显提高。

    May, 2023

  • 基于自编码器的混合推荐系统

    本文介绍了一种用于推荐系统的基于自编码器的架构，通过使用适用于缺失数据的损失函数和引入侧面信息来改进其性能。实验证明，侧面信息对冷启动用户 / 物品的影响更显著。

    Jun, 2016

  • 一种用于协同过滤的混合变分自编码器

    本文利用变分自编码器和电影嵌入向量，应用于电影推荐，通过 VAE 网络获取潜在表示，探索了合作式过滤的新方法。

    Jul, 2018

  • 协同过滤的变分自编码器

    本研究提出一种基于 VAE 的非线性概率模型，用于解决协作过滤问题，相对于现有的线性因子模型，具有更强的建模能力，并使用贝叶斯推断进行参数估计来得到更好的泛化性能。本方法在现有多个数据集上均取得了显著优异的性能表现，并对使用多项式分布作为似然函数进行了比较实验，分析了使用贝叶斯方法的优缺点及适用场景。

    Feb, 2018

  • 本地协作自编码器

    本文通过引入新的局部模型发现方法和多种不同的局部模型，提出了一个广义的局部因子框架 “LOCA”，结合 autoencoders 模型捕捉子社群内的潜在非线性模式，实现了高质量的 Top-N 推荐， 在几个公共基准上超过了现有技术。

    Mar, 2021

  • 自编码推荐器的结构学习

    本文利用协同过滤领域中的固有项群组，提出了一种结构学习方法，可以将自动编码器推荐算法的连接结构优化为稀疏连接，其结果比 Mult-vae/Mult-dae 等最先进的方法更为优越。

    Aug, 2020

  • 自编码提升预训练词嵌入

    本文研究了预训练单词嵌入的几何结构特征，实验证明保留 top 主成分以提高预训练单词嵌入的准确性是有用的，无需额外的语言资源或标注数据。

    Oct, 2020

  • 使用变分自编码器和异质先验进行物品推荐

    本文提出了一种在 Variational Autoencoders 框架下利用用户评论文本并加入用户自适应先验来提高协同过滤推荐质量的方法，实验证明该方法比已有的基于用户评分与文本的推荐模型有更高的排名指标。

    Jul, 2018

  • 协同过滤的深度自编码器训练

    本文提出了一种基于深度自编码器的新模型，通过对 Netflix 数据集进行评分预测任务，相对于之前的模型具有明显优势。该模型不需要层预训练，采用 6 层自编码器进行端到端的训练，通过实验证明：深度自编码器模型的泛化能力比浅层模型更好，负部分的非线性激活函数对于训练深度模型至关重要，必须大量采用正则化技术，如 dropout，以防止过拟合。此外，我们提出了一种基于迭代输出反馈的训练算法，以克服协作过滤的自然稀疏性，该算法显著加速了训练并改善了模型性能。

    Aug, 2017