场景识别中的数字鸿沟：揭示深度学习系统中的社会经济偏见
本文介绍了在医学影像领域应用卷积神经网络进行心脏结构分割的过程中，训练数据集失衡对 CNNs 偏差的影响进行了系统研究，实验结果表明数据失衡会导致 CNNs 对某些人群产生偏见，凸显了在医学健康数据集中需考虑对不同人口群体进行足够的表征的必要性。
Sep, 2022
利用合成的面部图像研究数据集偏差对深度卷积神经网络的泛化性能的影响，发现数据集偏差对 DCNNs 的泛化性能有着显著的影响，提出的方法允许观察和比较不同 DCNN 架构的泛化性能，同时揭示了当前 DCNN 架构的主要局限性。
Dec, 2017
评估一个视觉语言模型（CLIP）在一个包含不同收入价值的家庭图像的地理多样数据集（Dollar Street）上的表现，发现不同收入水平的家庭间存在性能差异，穷困群体的性能普遍较低；提出了帮助解决这些问题的见解和可执行的经济层面包容性人工智能发展措施。
Nov, 2023
本文研究 Self-Supervised Learning (SSL) 方法在使用 ImageNet 数据集进行训练时是否存在社会偏见的问题，并探讨了不同类型的 SSL 模型与所包含偏见的关系，同时认为在模型选择过程中可以减少社会偏见的数量，同时保持高性能。
Mar, 2022
本研究通过标注 Dollar Street 图像中的因素，例如颜色、形状和背景，揭示了不同地区、不同收入水平中目标对象之间的差异，证明性能差异是与贴图、遮挡和低照度图像的差异相关联，为提高深度学习系统的性能差异提供了解决思路。
Apr, 2023
本文分析了深度学习技术中的 “偏见” 问题，针对人脸识别系统进行了人种和年龄偏差的考察，发现深度神经网络也受到社会内外群体效应的影响，存在自身的人种和年龄偏见，并对这种 “偏见” 问题提出了解决方案。
Apr, 2019
本文研究计算机视觉、深度神经网络（DNN）、人类视觉感知和无体系结构视觉学习之间的联系，并发现 DNN 计算可用于估计感知损失，并与有趣的理论观点一致，即人类感知的特性是视觉学习无体系结构的结果。
Jan, 2017
本文通过研究不同表示下的现有去偏方法的表现，旨在验证在面临数据集偏差问题时使用 DeCAF 特征的潜力，并就数据集偏差问题的哪些方面是已经解决的，哪些方面是需要解决的进行分析。
May, 2015
我们研究了在视觉和语言模型训练中使用大型未筛选数据集的不公平表现，以及如何应对这个问题，研究发现社会偏见在图像生成、图像描述和图像文本嵌入等视觉语言任务中都是一个持续而普遍的问题。
Apr, 2023