May, 2024
虚假共识偏见导致人工智能对弱势利益相关者的不公
False consensus biases AI against vulnerable stakeholders
TL;DRAI系统的部署用于福利补贴分配，加速决策和提供关键帮助，但已导致不公平的拒绝福利和虚假欺诈指控的增加。通过在美国和英国收集数据（N = 2449），我们探讨了此类速度-准确性权衡在索赔人群和非索赔人群的公众可接受性。我们观察到人们普遍愿意以适度的准确性损失为代价来换取速度的提高，但这种总体观点掩盖了索赔人群和非索赔人群之间的显著差异。索赔人群对于在福利系统中部署AI的接受度较低，尽管福利索赔人群在整个人群中占比相对较小（例如，在美国代表性样本中为20%），这一弱势群体不太愿意接受AI，这引发了使用聚合数据用于校准可能导致与利益相关方偏好不一致的政策的担忧。我们的研究还发现了索赔人群和非索赔人群之间的非对称洞察。即使在为准确的透视视角提供经济激励的情况下，后者始终高估索赔人群接受速度-准确性权衡的意愿。这表明受非索赔人群主导的政策决策，无论出于何种善意，都可能忽视那些直接受到福利AI系统影响的人的实际偏好。我们的研究结果强调了在设计和部署这些系统时需要利益相关方参与和透明沟通的重要性，特别是在存在权力失衡的环境中。