我们研究了在视觉和语言模型训练中使用大型未筛选数据集的不公平表现，以及如何应对这个问题，研究发现社会偏见在图像生成、图像描述和图像文本嵌入等视觉语言任务中都是一个持续而普遍的问题。

Apr, 2023

本研究提出了一种面部属性检测的方法，即在学习属性检测任务之前学习人口统计信息，从而在性别和种族子群中保持或提高属性检测的准确性。该系统名为 InclusiveFaceNet，通过转移从公开种族和性别身份的数据集中学习到的种族和性别表示来检测面部属性，同时在保留潜在用户人口统计隐私的同时，获得了迄今为止面部属性检测中关于 Faces of the World 和 CelebA 数据集中最佳的报告数字之一。

Dec, 2017

AI 生成的人脸已经丰富了人类的生活，但也存在滥用风险。为了缓解偏见，设计算法公平方法是关键，然而当前检测器在不同人群中表现出偏见。本研究引入了 AI-Face 数据集，该数据集是首个具备人口属性注释的、包括真实人脸、deepfake 视频中的人脸以及由生成对抗网络和扩散模型生成的人脸的百万级 AI 生成人脸图像数据集。基于该数据集，我们进行了首次全面的公平性评估，评估了各种 AI 人脸检测器，并提供有价值的见解和发现，以推动未来公平设计 AI 人脸检测器。我们的 AI-Face 数据集和评估代码在此 https URL 上公开可用。

Jun, 2024

该研究论文探讨了一种根据样式生成对抗网络（StyleGAN）潜在空间的简单方法，用于生成平衡且可能无偏差的合成数据集，以用于训练、规范化或评估基于深度学习的人脸识别模型，并证明了可以有效地合成任何组合的人口统计学群体。

Sep, 2023

本研究认为当前计算机视觉技术中存在针对某些群体的预测结果的不当行为，导致这种情况的可能因素是使用手动注释的数据集制作的模型的数据及标签分布不均。因此，我们对一个大规模的图像本体库 ImageNet 中的 “人” 类别子树中的三个关键因素进行了剖析，并试图提出建设性的缓解方案。

Dec, 2019

本文提出了一种基于注意力网络和残差卷积网络集成的深度学习框架，可以高精度地预测面部图像的性别和年龄组，并通过可视化模型的注意图证明其能够敏锐地监测到面部适当部位，同时，在多任务学习方面得到了不错的成果。

Oct, 2020

本研究关注在自动驾驶领域中经常被忽视的公平问题，特别是在基于视觉感知和预测系统方面，这对自动驾驶车辆的整体运行起着至关重要的作用。我们重点分析了用于训练人和车辆检测系统的一些常用视觉数据集中存在的偏见。我们引入了一种注释方法和一种专门的注释工具，旨在对视觉数据集中的属性进行注释。通过评估一致性和属性在所有数据集中的分布，我们验证了我们的方法。这些属性包括年龄、性别、肤色、群体以及超过 90K 人的交通方式和超过 50K 辆车的车辆类型、颜色和车型的注释。大多数属性的多样性非常低，分析的数据集中某些群体，如儿童、轮椅使用者或个人机动车辆使用者，极度缺乏代表性。本研究在评估自动驾驶车辆感知和预测系统中考虑公平性方面做出了重要贡献。本文遵循可重复性原则，注释工具、脚本和注释属性可公开访问。

Dec, 2023

该研究调查了大规模视觉数据集的问题性实践和后果，并提出了采集数据集时应该考虑的伦理问题，包括同意和公正问题，以及诸如图像集中是否包含可验证色情图片的具体问题。同时，该论文根据实验和统计数据来阐明了数据集整理中的伦理原则和应该避免的陷阱，呼吁建立强制的伦理审查委员会。

Jun, 2020

对大规模视觉 - 语言模型进行可视化公正性实证调查，揭示出现开源和闭源模型在不同指引和人口属性下存在普遍的公正性问题。

Jun, 2024

本研究构建了一个包含 108,501 张图像的人脸图像数据集，强调数据集的平衡种族构成，通过对基于此数据集训练模型和评估性能的实验，发现模型的准确性较高且与种族和性别无关。

Aug, 2019