EMNLPOct, 2023

口红女性：测量对象与其相关性别之间的偏见

PDF
TL;DR研究了物体对图像字幕系统中的性别偏见的影响，结果表明只有特定于性别的物体才有强烈的性别偏见（例如，女性口红）。此外，提出了一种基于视觉语义的性别得分，用来度量偏见程度并可作为任何图像字幕系统的插件。实验证明了性别得分的实用性，因为我们观察到我们的得分可以测量字幕和相关性别之间的偏见关系；因此，我们的得分可以作为现有的对象性别共项方法的补充指标。代码和数据公开可用于 https://github.com/ahmedssabir/GenderScore。
gender biasimage captioning systemsobjectsvisual semantic-based gender scoreobject gender co-occ approach
发现论文，激发创造
  • 利用物体检测分析文本到图像模型中的性别偏见

    本研究提出了一种测量文本到图像模型中偏见的新策略，通过使用指定性别和含糊指代物体的配对提示（例如 “一个拿着物品的男人 / 女人”），我们可以检查某些物体是否与某种性别有关。

    Jul, 2023

  • 猪涂口红：去偏置方法虽然掩盖了词嵌入中系统性的性别偏差，但并未消除它们

    本研究探讨了文本话语中的性别偏见现象，评估了现有去偏置模型的实际效果，认为现有去偏置方法虽然在表面上达到了降低偏见的效果，但实际上却只是掩盖了偏见，并认为现有技术不足以构建性别中性的计算模型。

    Mar, 2019

  • Men Also Like Shopping: 使用语料库级别的限制来减少性别偏见放大

    通过 Lagrange 弛度算法，该研究加入语料库级别的限制条件来解决多标签物体分类和视觉语义角色标记中出现的性别偏见问题，成功地将性别偏见幅度下降了 47.5％ 和 40.5％，而识别任务的性能损失却很小。

    Jul, 2017

  • 自动评估指标中的性别偏见：以图像字幕为例的案例研究

    本论文通过系统的调研，研究发现了预训练模型存在性别偏见的问题，探讨了预训练模型在图像字幕生成任务中的公平性影响，并提出了一种针对这种问题的解决方案：结合 n-gram 匹配和预训练模型评估度量，以减少性别偏见的影响。

    May, 2023

  • 女性也滑雪板：克服标题模型中的偏见 (摘要)

    本研究介绍一种称为 Equalizer 的新方法，它可以确保在场景中遮挡性别证据时具有平等的性别概率，并在存在性别证据时具有自信的预测，以减轻描述数据集中不想要的偏见的影响。此模型在描述含人物的图像时预测其性别的错误率低于以前的工作，并更接近包括女性句子和包括男性句子的语句的实际比率。

    Jul, 2018

  • VisoGender: 用于衡量图像 - 文本代词解析性别偏见的数据集

    本研究介绍了 VisoGender，这是一个用于基准测试视觉语言模型的性别偏见的新数据集。我们专注于与职业相关的性别偏见，并强调每个图像都与包含场景中主体和对象的代词关系的标题相关联。

    Jun, 2023

  • 女性也滑雪板：克服字幕模型中的偏见

    本文介绍一种新的 Equalizer 模型，该模型生成基于个体外貌或图像环境的性别特定字幕单词，并使用 “外貌混淆损失” 和 “自信损失” 缓解了描述数据集中不必要的偏差影响，从而实现了目标当性别信息模糊时，模型需要看人物而不是使用语境线索来制定性别特定的预测。

    Mar, 2018

  • 模型无关性别去偏见图像描述

    本文提出名为 LIBRA 的框架，通过学习从合成有偏差的样本中减少性别偏见，从而降低图像字幕模型中的两种性别偏见类型：利用上下文以预测性别的偏见以及因性别导致生成某些（通常是刻板印象的）词语的概率的偏见。

    Apr, 2023

  • 揭示和纠正图像字幕数据集和模型中的性别偏见

    本文研究了 COCO 图像描述数据集中的性别偏见对训练模型的影响以及如何通过解耦图像描述和性别分类的方法来消除偏见。

    Dec, 2019

  • 一个评估视觉 - 语言模型中性别偏见的统一框架和数据集

    通过构建统一的框架系统评估大规模视觉语言模型中的性别职业偏见，我们在不同输入输出模态下的基准测试中观察到不同的偏见程度和方向，希望我们的工作能指导未来改进视觉语言模型以学习社会上没有偏见的表示方式。

    Feb, 2024