Feb, 2024
测量机器学习偏见造成的伤害：需要了解哪种错误以什么方式伤害了谁
Measuring machine learning harms from stereotypes: requires understanding who is being harmed by which errors in what ways
Angelina Wang, Xuechunzi Bai, Solon Barocas, Su Lin Blodgett
TL;DR通过社会心理学的视角，以性别刻板印象在图像搜索中的案例研究为例，本文研究了机器学习误差对人们心理体验的影响，发现刻板印象加强型误差会引起更多主观上的伤害体验，而对认知信念、态度或行为的影响较小，这种伤害对女性的影响较大。然而，某些违背刻板印象的误差对男性而言会造成更多主观伤害，可能是因为被认为威胁到男性气概。因此，本文得出结论，公平度量不能仅以伤害为唯一指南，应根据不同受伤者的感受和原因，提出更细致的观点。