预训练推荐系统：因果去偏见观点

WSDMOct, 2023

预训练推荐系统：因果去偏见观点

Pre-trained Recommender Systems: A Causal Debiasing Perspective

Ziqian Lin, Hao Ding, Nghia Hoang, Branislav Kveton, Anoop Deoras...

TL;DR通过训练泛域用户 - 物品交互数据，我们提出了一个适应性泛型推荐系统，该系统能够捕捉通用交互模式，并能在不同领域中快速适应以提高零样本和少样本学习性能。然而，不同领域的推荐数据存在域内和跨域偏差，我们通过引入因果去偏视角和预测模型 PreRec 有效克服了这一挑战，实证结果表明在跨市场和跨平台场景下，该模型能显著提升推荐性能。

Abstract

Recent studies on pre-trained vision/language models have demonstrated the practical benefit of a new, promising solution-building paradigm in AI where models can be pre-trained on broad data describing a generic task space and then adapted successfully to solve a wide range of downstr

pre-trained vision/language models recommender systems few-shot learning universal interaction patterns causal debiasing

发现论文，激发创造

预训练神经推荐系统：一个可迁移的零样本框架

通过利用用户 - 物品交互矩阵的统计特性，我们学习了用于支持无需用户或物品辅助信息的零 - shot 自适应（zero-shot recommendation）的通用表示，从而探索了预训练推荐模型在新领域构建推荐系统的可能性。

Sep, 2023

推荐作为治疗方案：去偏见化学习和评估

该研究提供了一种使用因果推论来处理选择偏差的方法，可实现对推荐系统的评估和训练，并获得实际数据上显着改善的预测效果。

Feb, 2016

AutoDebias: 为推荐学习去偏见

基于 risk-discrepancy 的架构能很好的概括现有去偏见策略，并提出一个 meta-learning 算法 AutoDebias 用于训练，通过对两个真实数据集和一个模拟数据集的验证，AutoDebias 证明了其在去偏见方面的有效性。

May, 2021

利用少量数据干预减轻性别偏见的语言模型性别改造

本文提出了一种数据干预策略，通过在仅使用 10 个去偏见（干预）的训练样例上微调预训练模型，可显著降低优先考虑任何性别的趋势，从而减少预训练大型语言模型中的性别偏见，而且此方法的使用成本低，是一种高度可行且实用的少量训练样例去偏见方法。

Jun, 2023

UPRec: 面向用户的推荐系统预训练

本文提出了一种名为 UPRec 的方法，通过构建自监督任务来利用用户属性和结构化社交图形，并将用户信息整合到预训练模型中，为用户提供更合适的推荐。

Feb, 2021

面向 MOOC 的自适应学习通用预训练框架

本篇论文提出利用预训练技术将深度学习应用于自适应学习的实践探索，并在数据观察和学习风格分析的基础上提出了一个统一的框架。通过一系列的下游任务，如学习推荐、学习资源评估、知识跟踪和辍学预测，发现了课程结构、文本和知识对于建模和学生非连续学习行为具有帮助，源代码和数据集将公开发布。

Jul, 2022

语言模型驱动的对话式推荐系统中的意外偏差

本研究调查了语言模型 LMRec 在餐厅推荐中存在的偏见问题，发现与黑人社区相关的名称的习惯性提及显著降低了推荐餐厅的价格分布，而男性相关的普遍名称的提及则导致增加了推荐的酒类服务场所，这些结果表明了语言模型驱动的推荐系统 LMRec 在其推荐中强化了有害刻板印象。

Jan, 2022

推荐作为语言处理：一种统一的预训练、个性化提示和预测范式 (P5)

本文提出了一种灵活且统一的文本到文本范式（P5），将各种推荐任务统一到一个共享框架中，使用自然语言序列捕捉深层次的语义，通过自适应的个性化提示进行预测，并在多个推荐基准上证明了其有效性。

Mar, 2022

通过任务超图实现推荐的统一预训练

我们提出了一种名为 Unified Pretraining for Recommendation via Task Hypergraphs 的新型多任务预训练框架，通过任务超图将预训练任务广泛应用于推荐系统中，设计了一种新颖的过渡关注层来区分性地学习每个预训练任务和推荐之间的相关性，并通过实验结果验证了 UPRTH 的优越性，并进行了进一步的详细研究来证明该框架的有效性。

Oct, 2023

一个关注公平性的混合推荐系统

本研究提出使用基于概率编程语言的混合公平意识推荐系统，以多个用户 - 用户和物品 - 物品相似性度量、内容和人口统计信息实现高效准确的推荐，同时解决了推荐偏见问题。与最先进的公平推荐系统相比，实验结果表明，我们的模型可以提供更准确、更公平的推荐。

Sep, 2018