ICCVNov, 2018

平衡数据集并不足够：在深度图像表示中估计和缓解性别偏见

PDF
TL;DR本文提出了一个框架来度量和降低视觉识别任务中与保护变量（例如性别）有关的固有偏差。通过采用对抗性方法来从深度神经网络中去除受保护变量的不想要的特征，我们展示了该方法的有效性，并在两个数据集上进行了实验。实验结果表明，在保持准确性的情况下，本方法减少了性别偏见的放大。
intrinsic biasesprotected variablesvisual recognition tasksadversarial approachgender bias
发现论文，激发创造
  • 视觉识别中的公正性：减轻偏见的有效策略

    本文探讨计算机视觉领域中，当进行看似不相关的任务（如活动识别或图像描述）训练时，模型学习偏见的问题，以及避免学习此类偏见的方法，并在 CelebA 数据集的属性分类任务中使用领域无关的训练技术，有效地减轻了现实世界中的性别偏见。

    Nov, 2019

  • 利用 von Mises-Fisher 混合模型缓解面部识别中的性别偏见

    本文研究深度人脸识别网络中的性别偏见，并提出了两种新的度量方法 BFAR 和 BFRR 以评估性别偏见，同时通过浅层神经网络进行后处理，通过最小化公平的 von Mises-Fisher 损失来减少性别歧视。

    Oct, 2022

  • 透过公平的镜子：减少图像数据集中的偏差

    本研究通过重构和最小化预期变量之间的统计相依来解决图像训练数据偏见的问题，使用包含 U-net 和预训练分类器的架构，将所提出的模型与最新的去偏见方法进行了对比，并展示了模型的公正性 - 准确性组合。

    Sep, 2022

  • 揭示和纠正图像字幕数据集和模型中的性别偏见

    本文研究了 COCO 图像描述数据集中的性别偏见对训练模型的影响以及如何通过解耦图像描述和性别分类的方法来消除偏见。

    Dec, 2019

  • 平衡画面：利用合成对比集去偏置视觉 - 语言数据集

    通过提出一个新颖的数据处理流程来纠正常用公平度量工具 (Bias@K) 存在偏见且不精确的问题。该流程通过提供一组性别平衡的对比集来扩充 COCO Captions 数据集，我们基于此数据集证明了在多个基于 CLIP 的模型中偏差的存在，表明了性别与图像背景之间毫无意义的相关性。最终，我们基于这些结果证明了我们的方法可以提高 Bias@K 的可靠度，从而对相关社会科学进行更准确的预测。

    May, 2023

  • InsideBias: 深度网络偏差测量与应用于面部性别生物特征识别

    研究探讨基于深度神经网络架构的学习过程中的偏见，分析了偏见如何通过玩具示例和案例研究影响深度学习过程中的性别检测模型，提出了一种新的 InsideBias 方法来检测偏见模型。

    Apr, 2020

  • 分析和减轻弱势群体偏见：迈向数据集的平衡代表性

    通过对脆弱道路用户的分类不平衡、性能评估和偏见影响评估进行研究，我们提出了一种模型优化和偏见缓解的方法，包括数据增强、重采样和度量特定学习，以改善自动驾驶中感知系统的准确性和公正性。

    Jan, 2024

  • 图像搜索中的性别偏差问题：性别中性查询真的是性别中性吗？

    本文研究互联网搜索中出现的性别偏见，尤其是在图像搜索中的性别失衡问题。为此，我们提出了两种消除偏见的方法：采用处理中的合理采样方法解决训练模型时的性别失衡问题，以及采用基于互信息的后处理特征裁剪方法来消除预训练模型的多模式表示中的偏见。通过在 MS-COCO 和 Flickr30K 基准测试上进行的大量实验，证明了我们的方法显著降低了图像搜索模型中的性别偏见。

    Sep, 2021

  • 通过潜空间去偏置实现公平的属性分类

    本文介绍了一种使用 GAN 生成图像并在潜在空间中扰动以生成可以平衡每个受保护属性的训练数据的方法，以缓解由相关性所引起的偏差，通过在原始数据集上增加扰动生成的数据，实证证明训练结果准确且具有许多定量和定性上的优势。在 CelebA 数据集上进行了全面评估和分析，与现有文献进行了比较。

    Dec, 2020

  • 健康数据饮食上的深度学习：发现对公平性重要的示例

    本文提出使用数据增强方法减少自然语言处理中的性别偏见，并通过削减数据集中的例子提高模型的公平性，实验证明该方法在三个文本分类数据集上所实现的公平性优于数据增强方法。

    Nov, 2022