公平 SA：面部识别中公平性的敏感性分析

Feb, 2022

公平 SA：面部识别中公平性的敏感性分析

Fair SA: Sensitivity Analysis for Fairness in Face Recognition

Aparna R. Joshi, Xavier Suau, Nivedha Sivakumar, Luca Zappella, Nicholas Apostoloff

TL;DR本文提出了一种基于 Visual Psychophysics Sensitivity Analysis 扩展的新型公平性评估框架，该框架可分析模型在不同被干扰亚组群中表现得是否公平，并通过 AUC 矩阵来紧凑可视化模型的公平性分析。作者分析了常见人脸识别模型的表现，实证发现当图像受到扰动时，某些亚组群处于不利地位，揭示了在无干扰的子群体上模型表现不明显的趋势。

Abstract

As the use of deep learning in high impact domains becomes ubiquitous, it is increasingly important to assess the resilience of models. One such high impact domain is that of face recognition, with real world app

deep learning face recognition robustness fairness vpsa

发现论文，激发创造

检测意外偏差的图像反事实敏感性分析

本研究提出了一种名为图像反事实敏感性分析的框架，利用生成对抗网络建立一个面部图像的真实生成模型，以控制性地操作特定的图像特征，从而发现并检测面部分类器中的偏见和公平性。

Jun, 2019

人脸检测中的鲁棒性差异

这篇研究论文旨在通过详细的基准测试来检查商业和学术模型的人脸检测问题，特别关注这些系统对于不同身份的人的鲁棒性和公平性的问题，结果发现西方男性、年龄偏大、皮肤较暗和光照条件较差的人更容易受到错误的影响。

Nov, 2022

FairVis: 用于发现机器学习中交叉偏见的视觉分析

通过交互式可视化，FairVis 帮助数据科学家和普通公众发现机器学习中的偏差，从而了解和创建更具公平性的算法系统。

Apr, 2019

解决面部情感识别中的种族偏见

在深度学习模型使用高维输入和主观标签进行训练时，公正性依然是一个复杂且缺乏研究的领域。面部情绪识别是一个数据集往往存在种族不平衡问题的领域，可能导致模型在不同种族群体之间产生不同的结果。本研究聚焦于通过对具有多样种族分布的训练集进行子采样，以及评估这些模拟中的测试性能来分析种族偏见。我们的发现表明，较小的数据集中的伪造面孔可以在接近种族平衡的模拟中提高公正性和性能指标。值得注意的是，F1 分数平均增加了 27.2 个百分点，人口统计学平等指标平均增加了 15.7 个百分点。然而，在具有更多面部变化的较大数据集中，公正性指标通常保持不变，这表明仅仅种族平衡是无法在不同种族群体之间实现测试性能的平等的。

Aug, 2023

使用敏感子空间鲁棒性训练个体公平的机器学习模型

我们考虑培训机器学习模型，使其在输入的某些敏感扰动下表现不变的公平性，这种公平性的形式化表述为个体公平性的一种变体，并使用分布鲁棒优化方法在训练期间强制执行。我们还展示了该方法在两个容易受到性别和种族偏见影响的机器学习任务上的有效性。

Jun, 2019

公平保护：调查视觉隐私保护算法的公平性

本研究旨在探讨视觉隐私保护算法的公平性，利用 PubFig 数据集的实验结果表明，常用的视觉隐私保护算法提供的隐私保护在群体之间不均等。

Jan, 2023

SensitiveLoss: 利用具有鉴别感知深度学习方法提高人脸表征的准确度与公平性

通过提出一种歧视感知学习方法，该方法可以改善偏差人脸识别算法的准确性和公平性。该方法表明，基于最常用的人脸数据库的学习过程导致了一个强大的算法性别和种族歧视的深度人脸模型，而提出的 Sensitive Loss 方法可以用于改进网络的性能，从而防止自动系统的歧视影响。

Apr, 2020

ECCV 2020 的 FairFace Challenge：分析人脸识别中的偏见

本文总结了 2020 年 ChaLearn Looking at People Fair Face Recognition and Analysis Challenge 的评测结果和优胜解决方案，并提供了对结果的分析。这个比赛的目的是评估提交算法在其他混淆因素存在时的准确性和性别和肤色方面的偏见。参赛者使用一个不平衡的数据集进行了评估，这模拟了 AI 模型在不平衡数据上训练和评估的真实世界情况。最终该比赛吸引了 151 个参与者，36 个团队进入了最后一轮。其中 10 个团队在实现非常低的偏见指标的同时，超过了 0.999 的 AUC-ROC。参赛者们常用的策略包括面部预处理、数据分布的同质化、使用有偏向性的损失函数和集成模型。前 10 名团队的分析还表明，对于肤色较暗的女性，虚假阳性率较高，同时，佩戴眼镜和年龄较小也会增加虚假阳性率。

Sep, 2020

探究面部表情识别中的偏见与公正

本文研究了人脸表情识别中的偏见与公平性问题，并对三种不同的方法在两个不同数据集上进行了比较，结果表明，使用数据增强的属性感知方法和解缠方法比基线方法更具准确性和公平性，在减轻人口统计学偏见方面，解缠方法是最好的选择。

Jul, 2020

CNN 网络数据领域变化的可视化方法及分类任务阈值选择的优化方法

通过可视化方法来直观反映模型的训练结果，并展示数据增强技术对跨领域 Face Anti-Spoofing 任务的有效性，同时基于训练数据集的分布提出了一种设置阈值的方法。最终在两个竞赛中获得了第二名。

Apr, 2024