了解性别分类算法在不同性别 - 种族群体中的公平性

Sep, 2020

了解性别分类算法在不同性别 - 种族群体中的公平性

Understanding Fairness of Gender Classification Algorithms Across Gender-Race Groups

Anoop Krishnan, Ali Almadan, Ajita Rattani

TL;DR针对自动化性别分类系统在不同种族和性别群体中存在的差异性，本文分析了深度学习算法中的架构差异和训练集不平衡等潜在差异性来源，并在两个大规模的公开数据集上进行了实验。实验结果表明，不同算法的分类表现存在一致性，而且黑种女性和黑种族总体的准确率最低，中东男性和拉丁女性的准确率大多数情况下更高。同时提出骨骼结构受基因和环境因素影响的面部形态差异可能是黑种女性表现不佳的原因。

Abstract

automated gender classification has important applications in many domains, such as demographic research, law enforcement, online advertising, as well as human-computer interaction. Recent research has questioned the fairness of this technology across gender and race. Specifically, the

automated gender classification face-based gender classification system deep learning algorithms gender-race groups training set imbalance

发现论文，激发创造

利用深度生成模型缓解不同性别 - 人种群体间的性别分类偏差

使用生成式视图、结构化学习和证据学习的方法，可以有效减少面部识别算法的性别分类偏差，并提升性能。

Aug, 2022

深度伪造检测 AI 模型公正性的探讨

研究发现最近深度学习模型容易出现以种族和性别等保护类别为基础的歧视。通过使用平衡的脸部数据集，探究三种常见的深度伪造检测器在保护子群体上的性能差异，发现预测性能在种族之间存在很大的差异，该研究还发现一些方法可能会导致伪造影响保护子群体，并造成检测器出现系统性别种族歧视。

May, 2021

理解面部图像中不平等的性别分类准确性

本文试图解释商用面部分类服务在性别分类任务中在由皮肤类型和性别所定义的交叉群体中表现不平等的原因。研究发现，皮肤类型不是造成准确率差异的主要原因。相反，实验表明跨族群差异在唇、眼和颧结构上的差异导致准确率的差别，唇和眼彩妆在女性面部中被视为强预测因素，这是性别刻板印象的一种有害传播。

Nov, 2018

迈向公正的面部验证：对人口统计偏见的深入分析

通过深入分析，本文重点讨论了涉及种族、年龄和性别等因素的交叉偏见问题，提出了在当前文献中较少探索的种族、年龄和性别组合方面的性能差异。此外，本文在定量分析中引入了五个补充指标，包括不公平影响和不公平待遇指标，以克服当前主流方法中常被忽视的重要局限。研究结果表明，人脸识别系统存在普遍偏见，不仅限于种族，不同的人口统计因素导致显著不同的结果。通过揭示这些偏见及其影响，本文旨在促进进一步研究，以开发更公正、更公平的人脸识别和验证系统。

Jul, 2023

人脸识别算法的准确性比较：在测量种族偏见方面我们到了哪里？

本文探讨了人脸识别算法中面部图像识别误差受种族差异影响的可能基础因素，包括数据驱动和场景建模，并提供了对评估算法种族偏见的方法论考虑。通过对四种面部识别算法表现的数据分析，本文得出种族偏见的存在需要在各不同应用场景下进行测量，同时提供了一个检查清单来测量面部识别算法中的种族偏见。

Dec, 2019

性别倾斜：通过属性操作实现计算机视觉模型的反事实公平性

本文提出了一种使用编码器 - 解码器网络开发的人脸图像合成方法，以测量商业计算机视觉分类器的反事实公平性，并报告了在线搜索服务中与职业相关的关键字中出现的偏向性，用以解释模型偏差的来源。

May, 2020

FairFace: 面部属性数据集，平衡种族、性别和年龄

本研究构建了一个包含 108,501 张图像的人脸图像数据集，强调数据集的平衡种族构成，通过对基于此数据集训练模型和评估性能的实验，发现模型的准确性较高且与种族和性别无关。

Aug, 2019

人脸识别准确率中的性别不平等分析

本篇论文对男女面部识别精度差异进行了深入分析，发现女性识别精度较低的原因是女性的冒名者分布向更高的相似性分数倾斜和女性真实分布向较低的相似性分数倾斜，这种现象的普遍性跨越 African-American、Caucasian 和 Asian 面孔的数据集，即使在将照片子集分别分为中立表情和垂直角度为零时，精度差异也会持续存在。

Jan, 2020

解决面部情感识别中的种族偏见

在深度学习模型使用高维输入和主观标签进行训练时，公正性依然是一个复杂且缺乏研究的领域。面部情绪识别是一个数据集往往存在种族不平衡问题的领域，可能导致模型在不同种族群体之间产生不同的结果。本研究聚焦于通过对具有多样种族分布的训练集进行子采样，以及评估这些模拟中的测试性能来分析种族偏见。我们的发现表明，较小的数据集中的伪造面孔可以在接近种族平衡的模拟中提高公正性和性能指标。值得注意的是，F1 分数平均增加了 27.2 个百分点，人口统计学平等指标平均增加了 15.7 个百分点。然而，在具有更多面部变化的较大数据集中，公正性指标通常保持不变，这表明仅仅种族平衡是无法在不同种族群体之间实现测试性能的平等的。

Aug, 2023

深度伪造检测中公平性的提高

本文提出了一种新的算法来训练公平的 deepfake detection model，以解决使用偏见的数据训练深度学习模型可能会导致不公平表现的问题。实验结果表明，该方法可以提高 deepfake detection 的公平性和鲁棒性。

Jun, 2023