COLINGApr, 2024

挑战负面性别刻板印象：自动对抗刻板印象有效性研究

PDF
TL;DR通过自动生成的针对性别刻板印象的对立刻板印象，自称为男性和女性的研究参与者评估其冒犯性、可信度和潜在有效性，并发现对立事实和扩大普遍性（即无论群体成员如何都有某种特质）的策略是最有效的对策，相比较而言，幽默、换位思考、对立例子和对发言者的同理心等策略被认为效果较差。同时，对不同目标的刻板印象而言，评级的差异更明显，而对评级者的性别差异相对较小。然而，令人震惊的是，许多通过 AI 生成的对立刻板印象被认为具有冒犯性和 / 或不可信。我们的分析和收集到的数据集为对抗在线互动中的性别刻板印象提供了基础洞察，指导未来努力开发有效挑战性别刻板印象的策略。
发现论文，激发创造
  • 超越谴责仇恨：消除语言中暗含的偏见和刻板印象的策略

    通过心理学和哲学文献，我们提供六种基于心理学的策略来挑战令人讨厌的语言中的刻板印象，并发现人类编写的反言中使用更具体的对抗策略，而机器生成的反言使用的策略通常不太具体且不太令人信服。

    Oct, 2023

  • 量化和减少词嵌入中的刻板印象

    通过研究 word embedding 中的性别特征，开发了一种有效算法，减少性别刻板印象又能保留嵌入的有用几何特性。

    Jun, 2016

  • 理解和应对刻板印象：基于计算方法的刻板印象内容模型研究

    通过计算 SCM 模型方法的实施，本文针对文本中的刻板印象进行解释和应用，同时研究了通过反刻板印象来减少偏见思维的有效策略。

    Jun, 2021

  • 语言模型中对陈规的理解：朝着鲁棒度量和零 - shot 去偏见的方向

    本文研究了预训练语言模型的生成文本中存在的人类偏见和其对不同人口群体的影响，针对现有的评估技术和基准的准确性问题，提出了新的评估框架以更稳健地测量和量化语言模型所表现出的偏见。并使用该框架调查了 GPT-3 的职业性别偏见，并提出了一些缓解这些偏见的提示技术。

    Dec, 2022

  • 机器人表现恶性刻板印象

    本文研究了机器学习中存在的偏见、歧视和刻板印象在机器人行为中的表现，实验结果显示，机器人在处理含有种族、性别和固有面相等多种属性的任务时，均表现出毒性刻板印象，并且 CLIP 这类基于大数据集和溶解模型的机器人学习方法在风险管理方面面对着许多的挑战，建议暂停这种机器人学习的实践进展，探索更安全、有效、公正的技术方法。

    Jul, 2022

  • 测量机器学习偏见造成的伤害：需要了解哪种错误以什么方式伤害了谁

    通过社会心理学的视角，以性别刻板印象在图像搜索中的案例研究为例，本文研究了机器学习误差对人们心理体验的影响，发现刻板印象加强型误差会引起更多主观上的伤害体验，而对认知信念、态度或行为的影响较小，这种伤害对女性的影响较大。然而，某些违背刻板印象的误差对男性而言会造成更多主观伤害，可能是因为被认为威胁到男性气概。因此，本文得出结论，公平度量不能仅以伤害为唯一指南，应根据不同受伤者的感受和原因，提出更细致的观点。

    Feb, 2024

  • 利用反事实数据增强来减轻语言中丰富形态学的性别刻板印象

    提出一种新方法，在语法形态复杂的语言（如西班牙语和希伯来语）中将男性化和女性化的句子互相转换，以达到减少性别刻板印象的目的，同时保持语法正确性。

    Jun, 2019

  • 测试预训练语言模型中的刻板印象

    本文研究语言模型中的偏见问题，提出了一种测试内部陈规陈瘤表现的简单方法，并探讨了该方法在性别偏见方面的应用。实验表明，使用无关的知识时，预训练的语言模型表现出一定的鲁棒性，并倾向于选择词语位置和句法结构等浅层语言线索来改变内部陈规陈瘤表现，从而为微调和评估中如何中性地处理语言模型提供了新的思路。

    Jan, 2023

  • 通过社会偏见推理来对抗本质主义

    研究如何打破社会刻板印象中的本质主义信仰，通过人类研究探讨不同类型的反驳策略的有效性，并发现扩大刻板印象范围的说法最受欢迎。

    Mar, 2023

  • 语言、沟通和社会：基于性别的语言学分析

    通过问卷调查 537 人得出结论，语言作为我们思维、偏见和文化刻板印象的反映。研究分析中发现了性别刻板印象的存在，特别是在定义男女角色时出现的，结果可作为理解刻板印象和期望对于不平等和惩罚产生的作用的起点。

    Jul, 2020