利用 von Mises-Fisher 混合模型缓解面部识别中的性别偏见

Oct, 2022

利用 von Mises-Fisher 混合模型缓解面部识别中的性别偏见

Mitigating Gender Bias in Face Recognition Using the von Mises-Fisher Mixture Model

Jean-Rémy Conti, Nathan Noiry, Vincent Despiegel, Stéphane Gentric, Stéphan Clémençon

TL;DR本文研究深度人脸识别网络中的性别偏见，并提出了两种新的度量方法 BFAR 和 BFRR 以评估性别偏见，同时通过浅层神经网络进行后处理，通过最小化公平的 von Mises-Fisher 损失来减少性别歧视。

Abstract

In spite of the high performance and reliability of deep learning algorithms in a wide range of everyday applications, many investigations tend to show that a lot of models exhibit biases, discriminating against specific subgroups of the population (e.g. gender, ethnicity). This urges

deep learning gender bias face recognition fairness metrics neural network

发现论文，激发创造

基于 von Mises-Fisher 混合模型的深度学习：应用于人脸验证

本文提出了基于 von Mises-Fisher 混合模型的深度学习方法，能有效地深度学习方向特征，实现了紧凑学习同一类别的实例，同时增加不同类别的实例之间的距离，融合了多种流行的 loss 函数，并在人脸验证任务中获得了当前最优结果。

Jun, 2017

平衡数据集并不足够：在深度图像表示中估计和缓解性别偏见

本文提出了一个框架来度量和降低视觉识别任务中与保护变量（例如性别）有关的固有偏差。通过采用对抗性方法来从深度神经网络中去除受保护变量的不想要的特征，我们展示了该方法的有效性，并在两个数据集上进行了实验。实验结果表明，在保持准确性的情况下，本方法减少了性别偏见的放大。

Nov, 2018

改进分布对准实现公平的面部表情识别

通过采用核均值收缩估计器来提高情绪识别模型的公平性，我们首次分析了吸引力作为一种重要的敏感属性，并通过 CelebA 和 RAF-DB 两个广泛使用的数据集上的实验证明了我们的方法的有效性。

Jun, 2023

视觉识别中的公正性：减轻偏见的有效策略

本文探讨计算机视觉领域中，当进行看似不相关的任务（如活动识别或图像描述）训练时，模型学习偏见的问题，以及避免学习此类偏见的方法，并在 CelebA 数据集的属性分类任务中使用领域无关的训练技术，有效地减轻了现实世界中的性别偏见。

Nov, 2019

性别倾斜：通过属性操作实现计算机视觉模型的反事实公平性

本文提出了一种使用编码器 - 解码器网络开发的人脸图像合成方法，以测量商业计算机视觉分类器的反事实公平性，并报告了在线搜索服务中与职业相关的关键字中出现的偏向性，用以解释模型偏差的来源。

May, 2020

评估基于数据集到模型的人口统计偏差转移：以面部表情识别为例的案例研究

本研究提出了一种新的度量方法，用于评估多类多人口统计分类问题中面部表情识别中的代表性和刻板印象偏见以及训练模型的残余偏见。这些度量结合在一起，可以用于研究和比较不同的偏见缓解方法。在对 Affectnet 数据集进行分析后，我们发现其中存在巨大的种族偏见和性别定型，并提供了不同人口统计属性的不同子集来训练模型。

May, 2022

深度伪造检测 AI 模型公正性的探讨

研究发现最近深度学习模型容易出现以种族和性别等保护类别为基础的歧视。通过使用平衡的脸部数据集，探究三种常见的深度伪造检测器在保护子群体上的性能差异，发现预测性能在种族之间存在很大的差异，该研究还发现一些方法可能会导致伪造影响保护子群体，并造成检测器出现系统性别种族歧视。

May, 2021

InsideBias: 深度网络偏差测量与应用于面部性别生物特征识别

研究探讨基于深度神经网络架构的学习过程中的偏见，分析了偏见如何通过玩具示例和案例研究影响深度学习过程中的性别检测模型，提出了一种新的 InsideBias 方法来检测偏见模型。

Apr, 2020

深度伪造检测中公平性的提高

本文提出了一种新的算法来训练公平的 deepfake detection model，以解决使用偏见的数据训练深度学习模型可能会导致不公平表现的问题。实验结果表明，该方法可以提高 deepfake detection 的公平性和鲁棒性。

Jun, 2023

少即是多：面部表情识别中的表征性与刻板性性别偏见

利用面部表情识别 (FER) 作为领域，通过分析性别人口的代表性和刻板性两种偏见，研究了数据集中的人口偏见对机器学习模型的传播情况。结果显示，代表性偏见对模型的影响较弱，而刻板性偏见具有显著的影响，主要集中在有偏见的类别上，尽管它也会影响无偏见类别的预测。这些结果强调了需要区分不同类型偏见的偏见分析，这对于有效的偏见缓解策略的开发至关重要。

Jun, 2024