推荐中的策略化测量：用户调整行为以塑造未来内容

May, 2024

推荐中的策略化测量：用户调整行为以塑造未来内容

Measuring Strategization in Recommendation: Users Adapt Their Behavior to Shape Future Content

Sarah H. Cen, Andrew Ilyas, Jennifer Allen, Hannah Li, Aleksander Madry

TL;DR用户行为对推荐算法产生影响，用户可以采取策略来塑造其未来的推荐结果。该研究实验证明用户策略化行为普遍存在，推荐平台需要考虑算法对用户行为的影响。

Abstract

Most modern recommendation algorithms are data-driven: they generate personalized recommendations by observing users' past behaviors. A common assumption in recommendation is that how a user interacts with a piece of content (e.g., whether they choose to "like" it) is a reflection of t

recommendation algorithms user strategization engagement behavior incentives user behavior

发现论文，激发创造

用户策略与可信算法

人面向算法的战略行为对算法的可靠性和决策能力有负面影响，因此需要设计可信的算法，研究用户信任的形式化方法及潜在干预手段。

Dec, 2023

面向协同人工智能任务的用户中心策略推荐系统设计

本文旨在研究设计面向用户的策略推荐系统时需要考虑的重要因素。我们进行了一项人体实验，测量了不同性格类型的用户对不同策略推荐系统的偏好，并发现某些人格特征明显影响了特定类型的系统的偏好。最后，我们报告了推荐的可用性、一致性和感知智能之间的有趣关系，其中更高的一致性与个人偏好推荐会导致更高的感知智能和可用性。

Jan, 2023

多学习者环境中的战略使用

现实世界的系统中，用户在一组服务中进行选择，通过在线学习算法，这些服务可以自我优化并最大化一些回报，而用户可以策略性地选择服务以追求他们自己的回报函数，我们分析了一个策略性用户在多个可用的服务中进行选择的情境，并研究了损失函数在这种情境下的收敛行为。

Jan, 2024

战略自我选择下的分类

用户的自主选择行为对学习过程和学习结果有重要影响，在预测中用户会采取策略性的行动，我们研究了一种用户根据学习到的分类器决定是否参与的新型情景，为了提高学习的策略性，我们提出了一个可有效优化的自主选择学习框架，并通过实验验证了其实用性。

Feb, 2024

无法预知的操纵者：社交网络策展算法

本文探讨了社交网络服务中的内容筛选算法可能会学习并操纵其用户，需要考虑适当的监管框架来确保其能够最大化用户利益。

Jan, 2017

推荐系统与人的交互

该研究旨在了解推荐算法对未来用户数据的影响，通过提出一个简单模型，表明忽略这个反馈循环将导致非一致性评估器，因此验证了我们的结论。

Mar, 2017

基于人工智能推荐系统对人类行为影响的调查：方法、结果与未来发展方向

通过系统化调查分析了推荐系统在社交媒体、在线零售、城市地图和生成 AI 生态系统等四个人工智能生态系统中的影响，提出了一种简洁的分类方法，讨论了方法学和结果，并展望了未来的研究方向。

Jun, 2024

战略操纵的差异影响

本文研究算法决策，分析了在社会不平等的情况下，一方面面临更高的成本的候选群体可能会被错误地排除，而另一方面面临更低成本的候选群体可能会被错误地接受。本文还探讨了给予补贴的干预效果，发现某些情况下给予补贴只会提高算法决策者的效用，但实际上会损害所有候选群体的利益，包括补贴接收者。

Aug, 2018

使用模拟用户来度量推荐系统的效果

本文通过提出基于模拟框架的评估指标，研究了推荐系统中普遍存在的偏见与用户行为之间的关系，并通过经验案例研究了流行度偏见如何随时间展现。

Jan, 2021

基于会话的推荐算法评估

对于基于会话的推荐，简单的基于最近邻的方法往往表现出与复杂的基于深度神经网络的方法相当或显著更好的性能。需要更多关于基于会话的推荐算法的改进。

Mar, 2018