WSDMOct, 2023

通过任务超图实现推荐的统一预训练

PDF
TL;DR我们提出了一种名为 Unified Pretraining for Recommendation via Task Hypergraphs 的新型多任务预训练框架，通过任务超图将预训练任务广泛应用于推荐系统中，设计了一种新颖的过渡关注层来区分性地学习每个预训练任务和推荐之间的相关性，并通过实验结果验证了 UPRTH 的优越性，并进行了进一步的详细研究来证明该框架的有效性。
发现论文，激发创造
  • ULTRA-DP：将图预训练与多任务图双提示统一化

    本文提出了一种基于图混合预训练的统一框架，通过提示机制将任务识别和位置识别注入图神经网络，从而有效减小语义差距，实现更好的性能提升。

    Oct, 2023

  • UPRec: 面向用户的推荐系统预训练

    本文提出了一种名为 UPRec 的方法，通过构建自监督任务来利用用户属性和结构化社交图形，并将用户信息整合到预训练模型中，为用户提供更合适的推荐。

    Feb, 2021

  • 广义图提示：走向图上预训练和下游任务的统一

    GraphPrompt 是一种基于图的新型预训练和提示框架，通过统一预训练和下游任务，并使用可学习的提示来帮助下游任务以任务特定的方式定位来自预训练模型的最相关知识，进一步提升了预训练和提示方面的性能。

    Nov, 2023

  • 多任务预训练和图上提示的 MultiGPrompt

    在本文中，我们提出了 MultiGPrompt，一种新颖的多任务预训练和提示框架，用于利用多个预设任务获取更全面的预训练知识，并通过预设和全局提示指导少样本情境下的后续任务。我们进行了六个公共数据集上的大量实验来评估和分析 MultiGPrompt。

    Nov, 2023

  • GraphPrompt: 将图神经网络的预训练和下游任务统一

    本文提出了一个新的在图上进行预训练和提示的框架 GraphPrompt，可以将预训练和下游任务统一到一个通用的任务模板中，并使用可学习的提示来以一种特定于任务的方式帮助下游任务定位来自预训练模型的最相关知识。在五个公共数据集上展开了广泛的实验来评估和分析 GraphPrompt。

    Feb, 2023

  • 一体化：用于图神经网络的多任务提示

    本文引入了提示方法来弥补预训练模型与各种图形任务之间的差距，并提出了一种新的用于图形模型的多任务提示方法。经过实验，结果表明我们的方法优越性。

    Jul, 2023

  • 预训练推荐系统：因果去偏见观点

    通过训练泛域用户 - 物品交互数据，我们提出了一个适应性泛型推荐系统，该系统能够捕捉通用交互模式，并能在不同领域中快速适应以提高零样本和少样本学习性能。然而，不同领域的推荐数据存在域内和跨域偏差，我们通过引入因果去偏视角和预测模型 PreRec 有效克服了这一挑战，实证结果表明在跨市场和跨平台场景下，该模型能显著提升推荐性能。

    Oct, 2023

  • 面向 MOOC 的自适应学习通用预训练框架

    本篇论文提出利用预训练技术将深度学习应用于自适应学习的实践探索，并在数据观察和学习风格分析的基础上提出了一个统一的框架。通过一系列的下游任务，如学习推荐、学习资源评估、知识跟踪和辍学预测，发现了课程结构、文本和知识对于建模和学生非连续学习行为具有帮助，源代码和数据集将公开发布。

    Jul, 2022

  • 多任务物品 - 属性图预训练在严格冷启动物品推荐中的应用

    本研究提出使用基于内容和历史数据的多任务学习训练知识性物品 - 属性图的冷启动推荐框架，以改善冷启动场景下推荐系统的性能。

    Jun, 2023

  • 推荐作为语言处理：一种统一的预训练、个性化提示和预测范式 (P5)

    本文提出了一种灵活且统一的文本到文本范式（P5），将各种推荐任务统一到一个共享框架中，使用自然语言序列捕捉深层次的语义，通过自适应的个性化提示进行预测，并在多个推荐基准上证明了其有效性。

    Mar, 2022