本文提出成立跨学科组织,聚焦于理解 AI 系统对个体决策偏好的影响,运用各学科概念对偏好进行操作化,提出偏好变化的框架,并明确了可接受的和不可接受的变化。
Mar, 2022
研究表明,推荐系统展示给用户的内容会影响他们的决策, 本文通过使用历史用户交互数据训练预测用户模型来评估推荐系统对用户偏好的影响,提出使用 “安全移位” 的概念来规避操纵行为。模拟实验表明,优化保持 “安全移位” 的推荐系统能够避免 manipulative 行为同时仍然能够产生用户参与度。
Apr, 2022
该研究旨在了解推荐算法对未来用户数据的影响,通过提出一个简单模型,表明忽略这个反馈循环将导致非一致性评估器,因此验证了我们的结论。
Mar, 2017
研究考虑了推荐系统、用户兴趣演化以及有害内容之间的相互作用,建模了推荐对用户行为的影响,特别是对有害内容消费的倾向性。旨在找到在最大化点击率(CTR)和减轻伤害之间建立权衡的推荐策略,并提出了在稳态下找到最优推荐策略的算法。在以真实数据初始化的半合成电影推荐设置上进行实验,观察到我们的策略在同时最大化 CTR 和减轻伤害方面优于基准线。
Jun, 2024
本文研究了推荐系统中的个性化、校准、偏差差异等主题,检验了不同算法和物品类别之间的显著差异。
Sep, 2019
研究机器学习中先前观察到的人们的选择,作为贝叶斯反向规划的先验,建议了一种引入计划偏差和时序不一致性的算法,通过构造计划生成模型,分析了其对偏差和忠诚度的推断。人体实验表明,人们也会从系统性偏离最佳行为中解释选择,并考虑这些偏差。
Dec, 2015
该研究提供了一种使用因果推论来处理选择偏差的方法,可实现对推荐系统的评估和训练,并获得实际数据上显着改善的预测效果。
Feb, 2016
推荐系统中普遍存在的流行度偏差问题,导致推荐结果集中在热门物品,本文回顾了流行度偏差的潜在原因和现有方法,并批判性地讨论了当前文献的局限性。
Aug, 2023
本研究提出了一种新的稳健性估计器,以避免在透明决策规则下个体的行为可能造成的操纵行为对决策结果的影响并在肯尼亚的一项大型实验中表明,在策略鲁棒方法估计的决策规则的指导下,其表现优于基于标准监督学习方法的规则。
Apr, 2020
利用模拟,本研究论证了使用已暴露于推荐算法的用户数据对建立或评估推荐系统会构成反馈循环,同化用户行为但不提高实用价值。
Oct, 2017