EMNLPOct, 2023
人” 等于白皮肤、西方男性和有色女性的性别体现：稳定扩散中的刻板印象
'Person' == Light-skinned, Western Man, and Sexualization of Women of Color: Stereotypes in Stable Diffusion
Sourojit Ghosh, Aylin Caliskan
TL;DR研究稳定扩散生成器中融入的刻板印象：我们研究了稳定扩散在缺少性别和国籍 / 大陆身份信息时分配给 “一个人” 或 “一个来自亚洲的人” 的性别和国籍 / 大陆身份。通过使用视觉 - 语言模型 CLIP 的余弦相似度来比较通过基于 CLIP 的稳定扩散 v2.1 生成的图像，并通过手工检查结果，我们回顾了 136 个提示（每个提示 50 个结果），这些提示是来自 6 个不同大陆、27 个国籍和 3 种性别的人的正面图像。我们观察到稳定扩散在没有额外性别 / 国籍信息的情况下对 “一个人” 的输出与男性图像最接近，而与非二元性别者和来自非洲 / 亚洲的人最不接近，这表明稳定扩散对人格身份的表征存有问题，更倾向于将其视为一个欧洲 / 北美的男性。此外，我们还展示了大陆刻板印象及所导致的伤害，例如将一个大洋洲人视为是澳大利亚 / 新西兰人而非巴布亚新几内亚人，这指向了对大洋洲土著人口的抹消，而这些人在巴布亚新几内亚和整个大洋洲都占绝大多数。最后，我们意外地观察到了对女性的过度性化的模式，特别是相对于其他国籍的拉丁美洲、墨西哥、印度和埃及女性，通过一个 NSFW 检测器进行衡量。这表明稳定扩散通过媒体对有色女性的物化，将西方对有色女性的迷恋刻板化，如果不加以制止，将加剧这种刻板化的表征。图像数据集已公开提供。