Dec, 2022

基于 Hankel 矩阵表示的张量串行学习用于下一物品推荐

PDF
TL;DR本研究提出了基于张量分解的模型来嵌入一些关于顺序数据的结构性知识，从而在解决下一个物品推荐任务时比深度神经网络更加轻便高效
self-attentive transformer modelstensor factorization-based modelsequential datahankel matrix representationnext item recommendation
发现论文，激发创造
  • 轻量级自注意力序列推荐

    该论文介绍了一种新型轻量级自注意网络 LSAN，通过组成嵌入将原始嵌入矩阵进行压缩并提出了时态上下文感知的嵌入组合方案以解决目前序列推荐中所存在的大量参数嵌入矩阵对资源受限环境的开销过大的问题，并拥有更强的性能表现。

    Aug, 2021

  • H-Transformer-1D: 序列快速一维分层注意力

    本研究提出了一种高效的基于矩阵结构的层次注意力方法，并证明了这种方法在自然语言和视觉任务中捕捉层次结构的归纳偏差是有效的，相比于其他次二次方提议在 Long Range Arena 基准测试上平均提高了 6 个百分点，在 One-Billion Word 数据集上也取得了新的 SOTA 测试困惑度。

    Jul, 2021

  • 利用自注意力机制的下一项推荐

    本文提出了一种新的序列感知推荐模型，采用自我注意机制从用户的历史交互中推断项目之间的关系，并在短期和长期意图考虑的度量学习框架中进行训练，实验结果表明，我们的方法在不同领域的广泛数据集上均表现出优异的性能。

    Aug, 2018

  • 具有关系感知核自注意力的连续推荐

    该研究提出了一种基于变换器的关系感知内核自注意力机制（RKSA），它采用了变换器的自注意力机制，并加入了概率模型和潜空间，从而将变换器的自注意力与连续推荐相结合，实现了推荐上下文的建模与个性化推荐。

    Nov, 2019

  • 可训练前馈核线性自注意力近似

    本文旨在将可训练的核方法的思想扩展到逼近 Transformer 架构的自注意机制，以实现更快的计算和更高的准确率。

    Nov, 2022

  • 基于多项式的自注意力机制用于表格表示学习

    通过提出一种基于矩阵多项式的自注意力层作为替代，我们改善了 Transformer 在表格数据中存在的平滑问题，并展示该层能够提高表格数据的表示性能，胜过现有方法。

    Dec, 2023

  • 超几何超图用于序列推荐

    使用超图及超伽玛函数嵌入学习结合预训练技术，提出在序列推荐中，基于多尺度的嵌入学习和超图卷积神经网络的超球形超图表示学习方法（H2SeqRec），有效提升了稀疏超图的动态项目嵌入学习效果及推荐性能。

    Aug, 2021

  • 自注意力序列推荐

    本研究通过提出一种基于自注意力机制的序列模型 (SASRec)，实现捕获用户操作的长期语义信息并利用少量操作进行预测，从而在稀疏和密集数据集上优于具有代表性的顺序模型（包括基于 MC/CNN/RNN 的方法），并且比相似的 CNN/RNN 模型高效一个数量级。注意力权重的可视化也展示了该模型如何自适应处理不同密度的数据集并揭示出有意义的活动序列模式。

    Aug, 2018

  • 用于序列推荐的多行为超图增强变压器

    设计了一种多行为超图增强 Transformer 框架（MBHT），用于捕获基于多个交互类型的短期和长期行为依赖关系，该框架通过低秩自注意力和超图神经网络结构实现。

    Jul, 2022

  • 基于随机自注意力机制的序列推荐

    本文提出了一种基于 Stochastic Self-Attention 的推荐模型，用于解决现有顺序方法无法处理不确定性和协同传递性的问题，并在五个真实世界基准数据集上进行了广泛实验，证明其在冷启动项目上的优越性。

    Jan, 2022