ICCVAug, 2023

基于合成人脸和人工评估的人脸识别算法偏差基准测试

PDF
TL;DR我们提出了一个实验方法来测量人脸识别系统中的偏见，使用神经人脸生成器生成合成人脸，改变感兴趣的属性而保持其他属性不变，并通过人类观察者提供关于感知身份相似性的真实数据，验证了该方法在种族和性别方面的偏见，同时提供了大规模的合成数据集，可用于相关领域的研究。
发现论文，激发创造
  • 面部分析算法偏见因果基准测试

    我们提出了一种实验方法来测量面部分析算法的算法偏差，该方法可以操作感兴趣的属性（如性别和肤色），以揭示属性变化与性能变化之间的因果联系，并且相较于观察性数据集，合成横断面具有更均衡的属性采样，可预测新场景中的偏差，在减少道德和法律难题的同时，还可以节省成本，并使偏差测试变得更加负担得起和普遍可用。

    Jul, 2020

  • 合成基于人脸识别中的偏见和多样性

    合成数据在解决处理真实面部数据的伦理和法律挑战中作为真实数据的替代品出现。我们研究了合成面部识别数据集的多样性与真实数据集的对比，以及生成模型的训练数据分布如何影响合成数据的分布。我们还研究了在比较最近三个基于合成数据的面部识别模型与基准模型 (基于真实数据) 在所研究属性上的具体偏差。结果显示，生成器生成的不同属性具有与所使用的训练数据相似的分布。在偏差方面，合成模型与真实模型具有类似的偏差行为。然而，发现较低的内部一致性似乎有助于减少偏差。

    Nov, 2023

  • 人脸识别中减少人口统计偏见的合成数据

    通过使用合成数据来缓解影响面部识别技术的人口偏见的可能性进行了研究。

    Feb, 2024

  • 人脸识别算法的准确性比较：在测量种族偏见方面我们到了哪里？

    本文探讨了人脸识别算法中面部图像识别误差受种族差异影响的可能基础因素，包括数据驱动和场景建模，并提供了对评估算法种族偏见的方法论考虑。通过对四种面部识别算法表现的数据分析，本文得出种族偏见的存在需要在各不同应用场景下进行测量，同时提供了一个检查清单来测量面部识别算法中的种族偏见。

    Dec, 2019

  • 使用合成脸部数据进行人脸识别

    本研究利用合成数据和微调模型，在人脸识别领域取得了高精确度的成果，并研究表明模型的性能还受到脸部不同部位的影响。

    May, 2023

  • 性别倾斜：通过属性操作实现计算机视觉模型的反事实公平性

    本文提出了一种使用编码器 - 解码器网络开发的人脸图像合成方法，以测量商业计算机视觉分类器的反事实公平性，并报告了在线搜索服务中与职业相关的关键字中出现的偏向性，用以解释模型偏差的来源。

    May, 2020

  • 用于人脸识别中合成和真实数据评估的大规模标注数据集

    通过对真实数据集和合成数据集进行性能比较，我们发现了真实数据集和合成数据集之间的差异，并发现真实样本足以解释合成分布，而相反情况则不成立。

    Apr, 2024

  • 人脸质量评估及其与人种和非人种偏见在人脸识别中的相关性

    本文分析了人脸质量评估和识别偏见之间的相关性，发现当前人脸质量评估算法也存在偏见，应注意公平和歧视问题。

    Apr, 2020

  • 缓解人脸合成方法中的偏差的抽样策略

    通过对 Flickr Faces HQ 数据集上训练的 StyleGAN2 生成模型进行分析，本文提出了两种采样策略来平衡生成的人脸图像中选择属性的表示，并揭示了针对非常年轻和非常年老年龄组以及女性面孔的随机采样图像分布中出现的偏差。通过在潜在空间上选择特定的线或球来增加来自欠代表类的生成样本数量，以减轻偏差，并在不同质量级别上呈现出受保护特征的更均匀分布。

    May, 2024

  • 迈向更公平的人脸识别数据集

    利用生成的训练数据集中的人口属性平衡机制，提出了一种全面的评估方法，旨在促进更公平、透明的人脸识别和验证，并发现在减少人口属性不公平的同时，性能差距仍然存在。

    Jun, 2024