本文通过研究基于大规模未标记图像数据的机器学习方法，并发现其可能对种族，性别，体重，残疾和少数种族存在的偏见和刻板印象进行了分类和嵌入，从而证明了这些模型可能会自动学习社会偏见。

Oct, 2020

本文提出了一个名为MMBias的基准数据集，用于评估自我监督多模态模型中的偏差，并介绍了一种旨在缓解偏差的去偏置方法。

Mar, 2023

图像模型的嵌入空间已经被证明可以编码一系列的社会偏见，该研究调查了对于视觉转换器（ViT）中出现这些偏见的具体因素，并测量了训练数据、模型架构和训练目标对ViTs学习表示中的社会偏见的影响。研究结果表明，基于反事实增强训练的扩散式图像编辑可以缓解偏见，但并不能完全消除；而且，相较于小模型，我们发现大模型的偏见较少，并且使用辨别目标进行训练的模型比使用生成目标进行训练的模型偏见较少。此外，我们观察到学习到的社会偏见存在不一致性，令人惊讶的是，当使用不同的自监督目标在相同数据集上训练时，ViTs可能表现出相反的偏见。我们的发现揭示了导致社会偏见出现的因素，并提出了基于模型设计选择可以实现相当大程度的公平改善。

Aug, 2023

我们提出了一个实验方法来测量人脸识别系统中的偏见，使用神经人脸生成器生成合成人脸，改变感兴趣的属性而保持其他属性不变，并通过人类观察者提供关于感知身份相似性的真实数据，验证了该方法在种族和性别方面的偏见，同时提供了大规模的合成数据集，可用于相关领域的研究。

Aug, 2023

通过使用文本到图像扩散模型和稳定扩散与交叉注意力控制方法，在产生大规模的反事实图像-文本对的基础上，揭示了现有的先进视觉-语言模型中存在的交叉社会偏差。

Oct, 2023

使用文本到图像扩散模型在规模上生成对抗实例，以探测和缓解视觉-语言模型中的交叉社会偏见。

Nov, 2023

通过对现有的大规模视觉-语言模型进行大规模研究，我们发现社会属性，如种族、性别和形象特征，可以显著影响生成的有害内容、能力相关词汇、有害刻板印象和被描述个体的评分，同时也探讨了大规模视觉-语言模型和对应的语言模型之间的社会偏见关系和减缓偏见的推理策略。

May, 2024

通过 qualitatively 评估精确生成人脸、群体和指定数量对象的图片，我们不仅检查了多个文本到图像模型的性能，还进行了社会偏见分析。我们发现，容量更大的模型生成的图片质量更高，但同时这些模型也存在固有的性别或社会偏见，从而更全面地了解了它们的影响和局限性。

Jun, 2024

通过因果中介分析，我们提出了一个框架，来测量和映射在视觉-语言模型中生成和传播偏见的路径，结果显示图像特征是偏见的主要贡献者，对模型偏见的减轻起到重要作用，同时能保持性能稳定。

Jul, 2024

本研究探讨了CLIP模型中人脸的社会认知，填补了这一领域的研究空白。通过系统性地操控面孔的年龄、性别、种族等属性，我们发现CLIP在社会认知上存在对法律保护属性的偏见，尤其是在对黑女性面孔的评价中表现突出。此外，面部表情的影响程度大于年龄和光照，提示以往研究未控制的视觉属性可能得出错误的偏见结论。

Aug, 2024