BriefGPT.xyz
May, 2022
视觉语义人工智能中的下降证据
Evidence for Hypodescent in Visual Semantic AI
HTML
PDF
Robert Wolfe, Mahzarin R. Banaji, Aylin Caliskan
TL;DR
研究了基于“CLIP(对比语言图像预训练)”模型进行多模态“视觉语义”的最新进展,结果表明,此模型存在种族偏见的现象,即具体到“一降”的界定,黑人-白人女性图像被归为黑人是该模型中的默认值,证明了AI学习的自然语言中存在的隐性偏见与认知信念有关,因此必须对其进行监督和检查。
Abstract
We examine the state-of-the-art
multimodal
"visual semantic" model
clip
("Contrastive Language Image Pretraining") for the rule of
hypodescent
→