COLINGMar, 2024

重新审视经典：关于在韵律诗歌中识别和纠正性别刻板印象的研究

PDF
TL;DR文化歌谣和诗歌是传递文化规范和社会角色的强大媒介，然而它们中普遍存在的性别刻板印象持续地造成偏见和限制个体身份的范围。过去的研究已经显示了刻板印象和偏见在幼儿时期就开始出现，因此对因果机制的发展性研究对于理解和控制刻板印象和偏见至关重要。本研究通过收集一份文化歌谣和诗歌的数据集来识别性别刻板印象，并提出了一个准确率达到 97% 的模型来识别性别偏见。通过使用大型语言模型（LLM）来纠正性别刻板印象，并在与人类教育家的纠正比较调查中评估其有效性。总的来说，本研究强调了文学作品中性别刻板印象的普遍性，并揭示了大型语言模型（LLMs）纠正性别刻板印象的潜力。这项研究引起了人们对性别平等问题的关注，促进了艺术表达的包容性，对性别平等的讨论做出了重要贡献。
rhymespoemsgender stereotypesliterary workslarge language model (llm)
发现论文，激发创造
  • 语言、沟通和社会：基于性别的语言学分析

    通过问卷调查 537 人得出结论，语言作为我们思维、偏见和文化刻板印象的反映。研究分析中发现了性别刻板印象的存在，特别是在定义男女角色时出现的，结果可作为理解刻板印象和期望对于不平等和惩罚产生的作用的起点。

    Jul, 2020

  • 大型语言模型评估：STEM 教育与性别刻板印象

    通过开放式、用户真实案例实验设计和定量分析，本文调查了 LLMs 中的性别偏见与教育选择之间的关系，在四种不同的文化、语言和教育系统（英语 / 美国 / 英国，丹麦 / 丹麦，加泰罗尼亚 / 西班牙，印地语 / 印度）的背景下调查了性别偏见，研究发现在使用典型的男孩名字和女孩名字提示建议职业时，chatGPT 提供的建议教育路径中的 STEM 和非 STEM 的比例存在显著而大的差异，丹麦、西班牙和印度背景下的 STEM 建议较少，同时发现职业建议中的细微差异。

    Jun, 2024

  • 量化和减少词嵌入中的刻板印象

    通过研究 word embedding 中的性别特征，开发了一种有效算法，减少性别刻板印象又能保留嵌入的有用几何特性。

    Jun, 2016

  • 消费文化中性别偏见的量化

    利用自然语言处理和机器学习进行文化演变以及刻板印象和文化变革方面的研究，对过去 50 年间的 25 万首歌曲进行分析，发现歌词中的性别歧视（misogyny）有所减少但仍然存在，女性与理想特质（如能力）的相关性更低。而且，男性艺术家比女性艺术家更可能引起歌词的转变，并且这些转变可能有助于推动对女性的社会定型观念的演变。

    Jan, 2022

  • 研究诗歌创作系统中的社会偏见

    本研究旨在探讨如何在诗歌创作系统中进行下一个诗句建议检索时减轻社会偏见，并通过情感风格转换的数据增强方法，为减轻社会偏见提供了潜在的解决方案。

    Nov, 2020

  • 大型语言模型中的性别偏见和刻板印象

    通过对四个最近发表的大型语言模型进行测试，我们发现大型语言模型在性别刻板印象、职业偏见和句子结构等方面表现出偏见，它们更倾向于选择与性别刻板印象相关的职业，并且在提供自己选择的解释时常常存在事实错误，对于这些模型的偏见行为，我们需要谨慎测试以确保它们对待边缘化个体和社区是公平的。

    Aug, 2023

  • 挑战负面性别刻板印象：自动对抗刻板印象有效性研究

    通过自动生成的针对性别刻板印象的对立刻板印象，自称为男性和女性的研究参与者评估其冒犯性、可信度和潜在有效性，并发现对立事实和扩大普遍性（即无论群体成员如何都有某种特质）的策略是最有效的对策，相比较而言，幽默、换位思考、对立例子和对发言者的同理心等策略被认为效果较差。同时，对不同目标的刻板印象而言，评级的差异更明显，而对评级者的性别差异相对较小。然而，令人震惊的是，许多通过 AI 生成的对立刻板印象被认为具有冒犯性和 / 或不可信。我们的分析和收集到的数据集为对抗在线互动中的性别刻板印象提供了基础洞察，指导未来努力开发有效挑战性别刻板印象的策略。

    Apr, 2024

  • 歌词中的性别偏见和性别歧视的大规模分析

    本文运用自然语言处理技术分析了 377808 首来自 “Two Million Song Database” 歌曲文本，并着重研究了性别歧视在五十年来（1960 年至 2010 年）在英语歌词中的表现和测量性别偏见。我们使用了性别歧视分类器，它可以发现规模更大的歌曲歧视，比以前使用手动标注的热门歌曲小样本的研究更明确。此外，我们通过在歌曲歌词上学到的词嵌入中测量相关性来揭示性别偏见。我们发现，性别歧视在时间上有所增加，尤其是男性艺术家和在 Billboard 排行榜上出现的热门歌曲。另外，男性独唱艺术家的歌曲在性别偏见上存在更多和更强的偏见。这是第一次进行如此大规模的分析，可以为我们认识流行文化中这一般性话语的使用提供见解。

    Aug, 2022

  • 面向大型语言模型的审计：提升基于文本的刻板印象检测

    本研究介绍了一个多维度刻板印象数据集以及英文文本的新型刻板印象分类器，并通过多类别训练模型在多种可解释 AI 工具下展示出较好的性能，利用该模型评估了流行的 GPT 模型系列的刻板印象行为，并观察到刻板印象的减少，从而为 LLM 的刻板印象偏见审计和评估建立了一个稳健而实用的框架。

    Nov, 2023

  • 法律意见词嵌入的性别和种族刻板印象检测

    本文针对自然语言处理中的语言偏见问题，提出了一种用于识别美国司法审判文件中的嵌入有性别和种族刻板印象的词语的方法，并对法律域中的这些性别和种族偏见问题进行了分析并提出了可能的缓解策略。

    Mar, 2022