无法预知的操纵者:社交网络策展算法
本文研究算法决策,分析了在社会不平等的情况下,一方面面临更高的成本的候选群体可能会被错误地排除,而另一方面面临更低成本的候选群体可能会被错误地接受。本文还探讨了给予补贴的干预效果,发现某些情况下给予补贴只会提高算法决策者的效用,但实际上会损害所有候选群体的利益,包括补贴接收者。
Aug, 2018
本研究提出了一种新的稳健性估计器,以避免在透明决策规则下个体的行为可能造成的操纵行为对决策结果的影响并在肯尼亚的一项大型实验中表明,在策略鲁棒方法估计的决策规则的指导下,其表现优于基于标准监督学习方法的规则。
Apr, 2020
该研究探讨了内容创作者为获取用户关注所采取的策略,以及在线平台开发者所做出的算法选择对其影响,并提出了一种名为曝光博弈的模型来形式化这种动态。该模型证明了算法选择对曝光博弈的 Nash 均衡的存在和性质产生了重大影响,并提出了一种针对曝光游戏的 (前置) 审核工具来识别理想内容和以激励为导向的排名之间的不一致情况。
Jun, 2022
本文旨在引起对机器学习模型意外建模弱点的关注,并提出了一些方法来检测潜在的弱点建模,以及确定模型是否对弱势群体进行了不同的处理。作者建议我们考虑立法和人工智能伦理学,以防止算法决策基于潜在的弱点状态表示被认为是操纵和对弱势个体的状况产生恶化影响。
Jan, 2023
现实世界的系统中,用户在一组服务中进行选择,通过在线学习算法,这些服务可以自我优化并最大化一些回报,而用户可以策略性地选择服务以追求他们自己的回报函数,我们分析了一个策略性用户在多个可用的服务中进行选择的情境,并研究了损失函数在这种情境下的收敛行为。
Jan, 2024
用户行为对推荐算法产生影响,用户可以采取策略来塑造其未来的推荐结果。该研究实验证明用户策略化行为普遍存在,推荐平台需要考虑算法对用户行为的影响。
May, 2024