该研究调查了大规模视觉数据集的问题性实践和后果，并提出了采集数据集时应该考虑的伦理问题，包括同意和公正问题，以及诸如图像集中是否包含可验证色情图片的具体问题。同时，该论文根据实验和统计数据来阐明了数据集整理中的伦理原则和应该避免的陷阱，呼吁建立强制的伦理审查委员会。

Jun, 2020

我们研究了在视觉和语言模型训练中使用大型未筛选数据集的不公平表现，以及如何应对这个问题，研究发现社会偏见在图像生成、图像描述和图像文本嵌入等视觉语言任务中都是一个持续而普遍的问题。

Apr, 2023

机器学习（ML）技术已知存在伦理和运营问题，但我们正见证企业在敏感应用中部署它们的增长势头。我们提出了一种利用网络搜索和生成模型来缓解判别模型缺陷的方法。我们在 ImageNet 的 People Subtree 子集上展示了我们的方法，并展示其在某些代表弱势群体的类别中增强了鲁棒性和减轻了偏见（例如，有色人种女医生）。虽然在极大程度上提高了模型的整体性能，我们在模型的性别准确性差异方面实现了显著降低（77.30%）。除了这些改进，我们观察到分类器的决策边界得到了明显的增强，它具有较少的弱点和类别之间的更大差异。虽然在本研究中我们展示了针对弱势群体的方法，但该技术可以扩展到各种问题和领域。

Oct, 2023

本文通过研究基于大规模未标记图像数据的机器学习方法，并发现其可能对种族，性别，体重，残疾和少数种族存在的偏见和刻板印象进行了分类和嵌入，从而证明了这些模型可能会自动学习社会偏见。

Oct, 2020

本文通过对计算机视觉中的人脸图像进行对比实验，发现虽然数据集中使用的种族类别表面上相似，但每个数据集编码了一个大不相同的种族系统，一些种族类别在数据集间的一致性程度比其他种族类别更低，并且种族类别可能存在刻板印象和忽略某些民族群体的问题，因此需要更具文化感知性和灵活性的公正度量方法。

Feb, 2021

本研究通过重构和最小化预期变量之间的统计相依来解决图像训练数据偏见的问题，使用包含 U-net 和预训练分类器的架构，将所提出的模型与最新的去偏见方法进行了对比，并展示了模型的公正性 - 准确性组合。

Sep, 2022

该文章通过自动注释框架介绍了 2012 年 ImageNet 大规模视觉识别挑战 (ILSVRC) 子集和 ImageNet 的 “人物” 分层类别的人口统计学审计，发现 ILSVRC 中 41.62％的面孔为女性，1.71％的面孔年龄超过 60 岁，而 15-29 岁的男性占最大的 27.11％。该文章还指出注释模型存在偏见，希望成为未来开发无偏注释模型以及研究 ImageNet 中人口统计学不平衡影响的起点。

May, 2019

通过人工研究这项工作研究了采用众包数据收集管道构建丰富的机器学习数据集的后果，重点关注了流行的 ImageNet 数据集，在 ImageNet 创建过程中特定的设计选择如何影响所得到的数据集的保真度，以及噪声数据收集管道如何导致所得基准与其代理真实世界任务之间存在系统性偏差。最后，发现需要扩充我们的模型培训和评估工具包，以考虑这种不对齐现象。

May, 2020

利用生成的训练数据集中的人口属性平衡机制，提出了一种全面的评估方法，旨在促进更公平、透明的人脸识别和验证，并发现在减少人口属性不公平的同时，性能差距仍然存在。

Jun, 2024

机器视觉算法对图像的处理和决策至关重要，但是数据集中的错误可能会导致认为黑人是大猩猩或搜索结果中误代表某些族裔，本文追踪数据集中的错误及其影响，揭示了一个缺陷的数据集可能是类别有限、数据来源不全和分类不当的结果。

Nov, 2022