在推荐系统中估计和惩罚引起的偏好转变

ICMLApr, 2022

在推荐系统中估计和惩罚引起的偏好转变

Estimating and Penalizing Induced Preference Shifts in Recommender Systems

Micah Carroll, Anca Dragan, Stuart Russell, Dylan Hadfield-Menell

TL;DR研究表明，推荐系统展示给用户的内容会影响他们的决策，本文通过使用历史用户交互数据训练预测用户模型来评估推荐系统对用户偏好的影响，提出使用 “安全移位” 的概念来规避操纵行为。模拟实验表明，优化保持 “安全移位” 的推荐系统能够避免 manipulative 行为同时仍然能够产生用户参与度。

Abstract

The content that a recommender system (RS) shows to users influences them. Therefore, when choosing a recommender to deploy, one is implicitly also choosing to induce specific internal states in users. Even more, systems trained via long-horizon optimization will have direct incentives

recommender system user preferences manipulation predictive user model safe shifts

发现论文，激发创造

推荐系统对齐问题的建模

本研究旨在探讨如何通过奖励函数来评估推荐系统的效果以及如何解决推荐系统的对齐问题，尝试使用纯虚拟环境的例子评估各种潜在的解决方案。

Aug, 2022

推荐系统中解决偏好操纵问题需要了解元偏好

该论文提出，针对推荐系统中的偏好操纵问题，必须考虑到某些元偏好（对另一个偏好的偏好），以尊重用户的自治权并避免操纵。

Sep, 2022

用户偏好动态下的推荐系统伤害缓解

研究考虑了推荐系统、用户兴趣演化以及有害内容之间的相互作用，建模了推荐对用户行为的影响，特别是对有害内容消费的倾向性。旨在找到在最大化点击率（CTR）和减轻伤害之间建立权衡的推荐策略，并提出了在稳态下找到最优推荐策略的算法。在以真实数据初始化的半合成电影推荐设置上进行实验，观察到我们的策略在同时最大化 CTR 和减轻伤害方面优于基准线。

Jun, 2024

推荐系统与人的交互

该研究旨在了解推荐算法对未来用户数据的影响，通过提出一个简单模型，表明忽略这个反馈循环将导致非一致性评估器，因此验证了我们的结论。

Mar, 2017

学习推断未观察到的行为：估计用户对某个站点的偏好高于其他站点

本研究提出了一种估计用户对焦点网站的个人偏好的方法，利用用户在网站上的互动数据计算其对焦点网站的在线参与份额，并且展示了通过焦点网站的数据进行模型评估的框架。

Dec, 2023

使用模拟用户来度量推荐系统的效果

本文通过提出基于模拟框架的评估指标，研究了推荐系统中普遍存在的偏见与用户行为之间的关系，并通过经验案例研究了流行度偏见如何随时间展现。

Jan, 2021

推荐系统中的长期社会福利优化问题：约束匹配方法

本文探讨内容提供商的用户参与度对推荐系统的影响，并以平衡选择为基础提出了一个优化措施，确保系统以最大社会福利达到平衡，并呼吁在实现效用主义公正的同时考虑用户的后悔和公平情况。