缓解人脸合成方法中的偏差的抽样策略

KDDMay, 2024

缓解人脸合成方法中的偏差的抽样策略

Sampling Strategies for Mitigating Bias in Face Synthesis Methods

Emmanouil Maragkoudakis, Symeon Papadopoulos, Iraklis Varlamis, Christos Diou

TL;DR通过对 Flickr Faces HQ 数据集上训练的 StyleGAN2 生成模型进行分析，本文提出了两种采样策略来平衡生成的人脸图像中选择属性的表示，并揭示了针对非常年轻和非常年老年龄组以及女性面孔的随机采样图像分布中出现的偏差。通过在潜在空间上选择特定的线或球来增加来自欠代表类的生成样本数量，以减轻偏差，并在不同质量级别上呈现出受保护特征的更均匀分布。

Abstract

synthetically generated images can be used to create media content or to complement datasets for training image analysis models. Several methods have recently been proposed for the synthesis of high-fidelity face images; however, the potential biases introduced by such methods have not

synthetically generated images bias introduced stylegan2 generative model sampling strategies protected attributes

发现论文，激发创造

合成基于人脸识别中的偏见和多样性

合成数据在解决处理真实面部数据的伦理和法律挑战中作为真实数据的替代品出现。我们研究了合成面部识别数据集的多样性与真实数据集的对比，以及生成模型的训练数据分布如何影响合成数据的分布。我们还研究了在比较最近三个基于合成数据的面部识别模型与基准模型 (基于真实数据) 在所研究属性上的具体偏差。结果显示，生成器生成的不同属性具有与所使用的训练数据相似的分布。在偏差方面，合成模型与真实模型具有类似的偏差行为。然而，发现较低的内部一致性似乎有助于减少偏差。

Nov, 2023

不需重新训练深度生成模型的公平性改进

该研究使用生成对抗网络 (GANs) 生成面孔，发现在生成图像的过程中，训练数据中的偏见被放大。为了解决这个问题，提出了一种可解释的基准方法来平衡产生的面部属性，从而产生更平衡的数据。同时，该方法具有泛化能力来处理多个属性以及细分组的样本合成，进而用于量化商业人脸属性分类器和人脸超分辨率算法中的偏见。

Dec, 2020

关于 GAN 在人脸验证中的偏差行为

本文介绍了深度学习系统需要大量数据进行训练的主题，提出了使用生成模型（如 GAN）生成合成数据的替代方法。然而，我们证明使用 GAN 生成的数据容易存在偏见和公平性问题，尤其是针对年龄段在 20-29 岁之间的白人脸部图像生成存在偏见。此外，我们还证明了在微调人脸验证系统时，合成人脸会对种族属性造成不公平影响。

Aug, 2022

扩散式人脸生成模型的偏差分析

本论文探究了扩散模型在人脸生成中存在的偏见来源，如性别、种族和年龄等属性，并调查了数据集大小对不同属性类别下扩散模型和对抗生成网络（GAN）模型的属性组成和感知质量的影响，结果发现扩散模型往往会恶化训练数据的分布偏见，同时受到数据集大小的影响，而拥有较多样本的平衡数据集训练的 GAN 模型在不同属性方面表现出较小的偏差。

May, 2023

朝着负责任的人脸数据集：对解缠的潜空间建模以从人口群体中采样人脸图像

该研究论文探讨了一种根据样式生成对抗网络（StyleGAN）潜在空间的简单方法，用于生成平衡且可能无偏差的合成数据集，以用于训练、规范化或评估基于深度学习的人脸识别模型，并证明了可以有效地合成任何组合的人口统计学群体。

Sep, 2023

利用已有的偏置 StyleGAN2 进行零样本平衡种族数据集生成

该论文提出利用深层学习方式进行人脸识别，通过生成对抗网络 GAN 生成虚拟多样的人脸数据集，以减小数据集的偏差对模型预测性能的影响。

May, 2023

平衡面部数据集：指导 StyleGAN 生成标记的合成面部图像数据集以满足代表性不足的群体需求

使用 StyleGAN 模型生成了一个鲁棒的人脸图像数据集，通过控制生成过程并为不同的下游任务进行注释，实现了数据集在不同人群中的平衡分布。

Aug, 2023

人脸识别中减少人口统计偏见的合成数据

通过使用合成数据来缓解影响面部识别技术的人口偏见的可能性进行了研究。

Feb, 2024

基于合成人脸和人工评估的人脸识别算法偏差基准测试

我们提出了一个实验方法来测量人脸识别系统中的偏见，使用神经人脸生成器生成合成人脸，改变感兴趣的属性而保持其他属性不变，并通过人类观察者提供关于感知身份相似性的真实数据，验证了该方法在种族和性别方面的偏见，同时提供了大规模的合成数据集，可用于相关领域的研究。

Aug, 2023

Imperfect ImaGANation: GAN 加重偏见，对面部数据增强和 Snapchat 自拍镜头的影响

本研究表明，基于 Generative Adversarial Networks（GANs）的数据增强方法在数据集存在偏向性的情况下，可能会加剧性别和肤色偏见等潜在维度的偏向。特别地，我们展示了 GANs 进一步扭曲了由工程师头像组成的数据集的分布，会对少数族裔造成负面影响。因此，本研究是一种警示性的学术探究。

Jan, 2020