本研究使用包含 6 个不同族裔的 24K 身份的新 DiveFace 数据库进行了面向深度学习的人脸识别的全面研究和性能分析，并证明了流行面孔数据库高度代表性的族群，导致预先训练的深度面部模型具有很强的算法歧视性，该歧视性可以定性地观察到深度模型的特征空间以及在不同族裔群体中应用这些模型时存在的性能差异。

Dec, 2019

本研究介绍了一种结合人类主观标签和数学定义的客观标注来减轻面部分类器中的偏见的学习方法，并通过集成学习方法进行了实验验证。

Apr, 2022

本文介绍了 MixFairFace 框架，旨在提高人脸识别模型的公正性，并通过新的评估协议来公平地评估不同方法的公平表现。此外，我们提出了 MixFair Adapter 来确定和减少训练样本的身份偏差，解决了面部表征中的身份偏差问题，从而在所有基准数据集中实现了最先进的公平性能。

Nov, 2022

通过深入分析，本文重点讨论了涉及种族、年龄和性别等因素的交叉偏见问题，提出了在当前文献中较少探索的种族、年龄和性别组合方面的性能差异。此外，本文在定量分析中引入了五个补充指标，包括不公平影响和不公平待遇指标，以克服当前主流方法中常被忽视的重要局限。研究结果表明，人脸识别系统存在普遍偏见，不仅限于种族，不同的人口统计因素导致显著不同的结果。通过揭示这些偏见及其影响，本文旨在促进进一步研究，以开发更公正、更公平的人脸识别和验证系统。

Jul, 2023

我们提出了一个群体公平的联邦学习框架，旨在在保护隐私和没有资源利用开销的情况下，减少群体偏见。我们通过利用平均条件概率来计算由异构训练数据得出的跨领域群体重要性权重，使用修改的乘法权重更新方法来优化表现最差的群体的性能。此外，我们提出了正则化技术来最小化最差和最好表现群体之间的差异，同时通过阈值机制确保在减少偏见和群体表现下降之间取得平衡。我们对人类情绪识别和图像分类基准进行了评估，以评估我们的框架在实际异构环境中的公平决策能力。

Sep, 2023

通过使用合成数据来缓解影响面部识别技术的人口偏见的可能性进行了研究。

Feb, 2024

为解决医学图像分析中校准偏差的问题，提出了一种基于聚类 - 焦点法的新方法 Cluster-Focal，无需在训练期间考虑亚组属性，能够管理最差亚组的校准误差，同时保持预测性能，并超越了最近的基线。

Jul, 2023

该研究提出了一种新颖的无监督公平得分归一化方法，用于减少面部识别中的偏见，并导致显着的总体性能提升。实验结果表明，这种方法可以降低性别等群体的偏见，并且相比现有方法更加一致地减少了这种偏见，同时也可以增强总体性能。

Feb, 2020

通过使用一个去偏变分自编码器，在偏倚数据集上进行实验以缓解偏见，本研究探讨了一种消除偏见的方法，以在面部表情识别中平等对待每个人。

Dec, 2023

本文探讨计算机视觉领域中，当进行看似不相关的任务（如活动识别或图像描述）训练时，模型学习偏见的问题，以及避免学习此类偏见的方法，并在 CelebA 数据集的属性分类任务中使用领域无关的训练技术，有效地减轻了现实世界中的性别偏见。

Nov, 2019