少即是多：面部表情识别中的表征性与刻板性性别偏见

Jun, 2024

少即是多：面部表情识别中的表征性与刻板性性别偏见

Less can be more: representational vs. stereotypical gender bias in facial expression recognition

Iris Dominguez-Catena, Daniel Paternain, Aranzazu Jurio, Mikel Galar

TL;DR利用面部表情识别 (FER) 作为领域，通过分析性别人口的代表性和刻板性两种偏见，研究了数据集中的人口偏见对机器学习模型的传播情况。结果显示，代表性偏见对模型的影响较弱，而刻板性偏见具有显著的影响，主要集中在有偏见的类别上，尽管它也会影响无偏见类别的预测。这些结果强调了需要区分不同类型偏见的偏见分析，这对于有效的偏见缓解策略的开发至关重要。

Abstract

machine learning models can inherit biases from their training data, leading to discriminatory or inaccurate predictions. This is particularly concerning with the increasing use of large, unsupervised datasets for training foundational models. Traditionally, →

machine learning models demographic biases gender demographic facial expression recognition bias analysis

发现论文，激发创造

面部表情识别中性别刻板印象的影响

本文介绍了关于面部表情识别中存在的人口统计偏见的问题，通过使用公共数据集进行实证研究，发现其结果表明在全球统计上存在的偏见并不意味着有利于所有人群，需要对歧视性偏见进行彻底分析和处理。

Oct, 2022

评估基于数据集到模型的人口统计偏差转移：以面部表情识别为例的案例研究

本研究提出了一种新的度量方法，用于评估多类多人口统计分类问题中面部表情识别中的代表性和刻板印象偏见以及训练模型的残余偏见。这些度量结合在一起，可以用于研究和比较不同的偏见缓解方法。在对 Affectnet 数据集进行分析后，我们发现其中存在巨大的种族偏见和性别定型，并提供了不同人口统计属性的不同子集来训练模型。

May, 2022

解决面部情感识别中的种族偏见

在深度学习模型使用高维输入和主观标签进行训练时，公正性依然是一个复杂且缺乏研究的领域。面部情绪识别是一个数据集往往存在种族不平衡问题的领域，可能导致模型在不同种族群体之间产生不同的结果。本研究聚焦于通过对具有多样种族分布的训练集进行子采样，以及评估这些模拟中的测试性能来分析种族偏见。我们的发现表明，较小的数据集中的伪造面孔可以在接近种族平衡的模拟中提高公正性和性能指标。值得注意的是，F1 分数平均增加了 27.2 个百分点，人口统计学平等指标平均增加了 15.7 个百分点。然而，在具有更多面部变化的较大数据集中，公正性指标通常保持不变，这表明仅仅种族平衡是无法在不同种族群体之间实现测试性能的平等的。

Aug, 2023

量化和减少词嵌入中的刻板印象

通过研究 word embedding 中的性别特征，开发了一种有效算法，减少性别刻板印象又能保留嵌入的有用几何特性。

Jun, 2016

通过无监督预训练学习的图像表示包含类人偏差

本文通过研究基于大规模未标记图像数据的机器学习方法，并发现其可能对种族，性别，体重，残疾和少数种族存在的偏见和刻板印象进行了分类和嵌入，从而证明了这些模型可能会自动学习社会偏见。

Oct, 2020

利用原型表示消除社会偏见而不包含人口统计信息

DAFair 是一种用于减轻语言模型中社会偏见的新方法，通过预定义的典型人口统计文本，并在微调过程中加入正则化项来纠正模型的表示中的偏见，从而在两个任务和两个模型上实证结果显示了我们方法的有效性。此外，即使在有限的人口统计注释数据下，我们的方法也优于常见的去偏方法。

Mar, 2024

笑脸女性下降：审计图像生成 AI 中的代表性和呈现性性别偏见

本研究分析了 15,300 个 DALL-E 2 图像，发现其在男性主导领域中低估女性，而在女性主导领域中高估女性，同时揭示了这些图像中的性别偏见，需要采取女性主义干预手段以防止这些带有偏见的 AI 生成图片反馈到媒体生态环境中。

May, 2023

负责任的 AI：情感识别中的性别偏见评估

本研究旨在通过在六个不同的神经网络中进行深入调查，对面部表情识别的深度学习方法中的性别偏见进行研究，并根据公正的三个定义对其进行评估。结果显示，某些模型存在性别偏见，而更具偏见性的神经网络在男性和女性测试集之间的情感识别准确度差距更大，此外也观察到更适合用于男性和女性情感分类的不同情绪类型。

Mar, 2021

探索并缓解语言模型中的社会偏见

为了提高语言模型的公正性，本文提出了多项定义并给出了新的测试和度量方式，旨在减少机器学习在文本生成过程中对性别、种族、语言宗教等社会构建的刻板印象所带来的负面影响。实证结果和人工评估表明，该方法能够在文本生成中减少偏见同时保留重要的上下文信息。

Jun, 2021

朝着负责任的人脸数据集：对解缠的潜空间建模以从人口群体中采样人脸图像

该研究论文探讨了一种根据样式生成对抗网络（StyleGAN）潜在空间的简单方法，用于生成平衡且可能无偏差的合成数据集，以用于训练、规范化或评估基于深度学习的人脸识别模型，并证明了可以有效地合成任何组合的人口统计学群体。

Sep, 2023