利用自注意力机制来加强负向信号在序列音乐推荐中的作用

MMSep, 2023

利用自注意力机制来加强负向信号在序列音乐推荐中的作用

Leveraging Negative Signals with Self-Attention for Sequential Music Recommendation

Pavan Seshadri, Peter Knees

TL;DR使用基于 transformer 的自注意力架构来学习顺序音乐推荐中的隐式会话级信息，同时提出一项对比学习任务来纳入负面反馈，以促进正面命中和惩罚负面命中，并通过实验证明这种方法相比忽略负面用户反馈的基准架构具有一致的性能提升。

Abstract

music streaming services heavily rely on their recommendation engines to continuously provide content to their consumers. sequential recommendati

music streaming services recommendation engines sequential recommendation self-attentive models transformer-based self-attentive architectures

发现论文，激发创造

使用自我关注实现可解释的音乐标记

提出了一种基于自注意力机制的深度序列模型，用于解决音乐信息检索问题，并且相比于传统的卷积和递归神经网络方法，该模型更具可解释性且具有竞争力的结果。

Jun, 2019

音乐个性化的负反馈

使用真实的负反馈作为输入和训练目标，在网络广播的下一首推荐系统中，有助于减少训练时间约 60％，并提高测试准确性约 6％；同时，添加用户跳过作为额外输入还可以显著增加用户覆盖率并略微提高准确性。

Jun, 2024

从负面用户反馈学习和衡量顺序推荐器的响应性

我们将负面用户反馈引入了序列推荐器的训练目标中，在检索阶段使用一种 “不推荐” 的损失函数来优化不推荐带有负面反馈的项目的对数似然。我们通过在大规模工业推荐系统上进行实时实验来证明了这种方法的有效性。此外，我们通过开发一个对照模拟框架来衡量推荐器对负面反馈的响应能力，展示了建模变化带来的响应能力改进。

Aug, 2023

音乐变形器

提出了一种使用修改后的相对注意力机制来设计变形金刚神经网络的算法，用于音乐作曲、演奏和生成任务，并在 JSB Chorales 和 Piano-e-Competition 数据集上获得了最先进的结果。

Sep, 2018

利用自注意力机制的下一项推荐

本文提出了一种新的序列感知推荐模型，采用自我注意机制从用户的历史交互中推断项目之间的关系，并在短期和长期意图考虑的度量学习框架中进行训练，实验结果表明，我们的方法在不同领域的广泛数据集上均表现出优异的性能。

Aug, 2018

序列推荐中的非侵入式自注意力用于辅助信息融合

本研究提出了一种新方法 NOVA，在 BERT 框架下利用辅助信息来提供更好的注意力分布，以便更全面和更好地推荐。在公共和商业数据集上验证，本文提出的方法能够稳定地胜过现有技术。

Mar, 2021

利用对比学习的内容推荐中的负面偏好探测

本研究采用对比学习 (contrastive learning) 模型并结合三种不同的训练策略来分析用户对负向偏好在音乐口味中的作用，证实了将负向偏好纳入音乐推荐系统的可行性，并且实验证明了负向偏好训练策略对于提高音乐推荐准确度和减少误报率的有效性。

Jul, 2022

利用自相似性作为注意力机制生成具有结构的音乐

我们提出了一种注意力层的方法，使用用户提供的自相似矩阵来在生成音乐时添加模板结构，并通过与没有注意力机制的模型进行比较，证明了该方法显著提高了网络的特定结构复制能力，以及在未见测试集上的性能。

Jun, 2024

使用正负框架掩码的对比学习用于音乐表示

本文提出了基于对比学习的音乐表示的新方法 PEMR，它具有正负帧层级掩码生成模块和用于获得关于正负音频片段相似性的对比学习目标，该方法与现有方法相比更有效地学习音乐的有效表示。

Mar, 2022

自监督强化学习用于推荐系统

本文中提出了一种自我监督强化学习算法来弥补监督式推荐算法的不足，为仍处于离线状态的推荐者提供强大的梯度信号支持，其中包括两个输出层；一个用于自我监督，另一个用于强化学习，从而实现顾虑到长期用户参与度以及多种用户 - 项目交互等因素的推荐任务。

Jun, 2020