EMNLPOct, 2020
通过未明确的问题揭示刻板印象偏见
UnQovering Stereotyping Biases via Underspecified Questions
Tao Li, Tushar Khot, Daniel Khashabi, Ashish Sabharwal, Vivek Srikumar
TL;DR通过研究证明,几种重要的定型偏见:性别、国籍、种族和宗教,都对语言嵌入和问题回答模型产生影响。对基于 transformer 的 QA 模型进行研究,发现这些模型中都存在定型偏见,并且模型越大,偏见越明显。此外,分类器的 fine-tuning 会对这种偏见产生不同的影响。