本研究分析了自 1970 年以来所有发行的印地语电影的情节和海报，并通过语义建模对跨句子和单句子级别的情节进行了性别偏见检测，发现电影中存在普遍的性别偏见和刻板印象。我们得出了一个语义图并计算了每个角色的中心度，观察到了类似的偏见。研究发现，在电影海报中，女性获得了平等的重要性，但即使她们的角色对电影情节无关紧要，电影预告片的男女屏幕时间大致相等。然而，本研究成功地识别出了过去三年中打破了这种刻板印象的 30 部电影。

Oct, 2017

通过研究 word embedding 中的性别特征，开发了一种有效算法，减少性别刻板印象又能保留嵌入的有用几何特性。

Jun, 2016

研究发现使用 LSTM 架构训练的语言模型在表示性别时存在动态变化，并且性别信息逐渐局部化。通过监控训练动态，可以检测到女性和男性在输入嵌入中的表示不对称。去除偏见的策略如何应用需要更多深入探讨。

Jul, 2022

本论文提出了一个对自然语言文本中的性别偏见进行分解的通用框架，通过多维度的性别偏见分类器可以控制生成模型性别偏差的问题，检测任意文本中的性别偏见，并揭示与性别相关的冒犯性语言。

May, 2020

对 Google News 文章上的 Word Embedding 进行的实证研究表明，即使是这种非人工制作的大型文本数据，在机器学习和自然语言处理应用中也存在着性别偏见的问题。为了消除这些偏见，我们提出了一种方法进行 Word Embedding 去偏见化，从而减少性别偏见的扩大和助推。

Jul, 2016

大型语言模型 (LLMs) 在性别方面反映了社会规范和偏见。本文填补情绪分析中对于社会偏见的研究空白，首次对五种最先进的开源和闭源 LLM 进行了性别化情绪归因的全面研究，发现这些模型始终存在受到性别刻板印象影响的性别化情绪。

Mar, 2024

研究表明，预训练语言模型从其训练语料库中学习到具有社会伤害性的偏见，并可能在生成过程中重复这些偏见。本文研究模型生成故事中与主角相关的性别偏见，使用常识推理引擎揭示了其中的隐含偏见，包括主角的动机、属性、心态以及对他人的影响。我们的研究发现对于隐含的偏见与之前研究显性偏见的结论一致，例如女性角色的描写主要集中在外貌上，而男性角色则侧重于智力方面。

Sep, 2021

通过构建一种包含身份偏见注释的电影剧本数据集，使用深度学习模型识别剧本中的偏见，此举可避免影片发行受阻、诉讼等不利后果。

May, 2022

语言作为一种强大的工具，用于展示社会信仰体系，同时也延续了我们社会中普遍存在的偏见。性别偏见是我们社会中最普遍的偏见之一，在线和离线话语中都有所体现。随着语言模型越来越接近人类的流利程度，我们需要深入了解这些系统可能产生的偏见。先前的研究通常将性别偏见视为二元分类任务。然而，我们认识到偏见必须按照相对的尺度来感知，因此我们研究了各种程度偏见的生成和相关性质，并调查了手动注释者对这些偏见的接受程度。具体来说，我们创建了第一个带有性别偏见的 GPT 生成英文文本数据集，并使用最佳 - 最差比例进行了权威评级以获得相对评估的度量。接下来，我们系统分析了观察到的排名中性别偏见主题的变化，并显示了攻击身份是与性别偏见最相关的。最后，我们展示了现有模型在我们的数据集上训练的相关概念上的性能。

Oct, 2023

通过集成学习减少机器学习模型的偏见，研究提供了包括性别属性偏见和工资预测差异在内的实证证据，并呼吁采用混合模型以实现公平和包容的数据驱动社会。

Oct, 2023