本文通过对两个流行的 T2I 模型（DALLE-v2 和 Stable Diffusion）进行广泛的自动化和人工评估实验，专注于反映出的性别、年龄、种族和地理位置之间的职业，人格特征和日常情况的生成图像，研究和量化常见的社会偏见。我们的研究结果表明，这些模型中存在严重的职业偏见和地理位置代表的日常情况。尽管可以通过增加提示本身的详细信息来缓解这些偏差，但提示缓解可能无法解决图像质量或模型在其他场景中的其他用途的差异。

Mar, 2023

研究表明，现在机器学习模型能够将用户写的文本描述转换成逼真的图像，并且这些模型现在可以在线使用，每天可生成数百万张图像。然而，我们发现这些模型放大了危险和复杂的刻板印象，并且这些放大的刻板印象难以预测，用户或模型所有者也难以减轻其影响。这些图像生成模型的大规模部署是否会延续和放大刻板印象，这是非常值得关注的问题。

Nov, 2022

对社交媒体平台上的内容审查进行分析，研究其对性别多元化言语模式的偏见，并提出五个现成的语言模型在评估这些文本的伤害程度时的性能评估。

May, 2024

文本到图像生成模型在图像质量、灵活性和文本对齐方面取得了惊人的成果，并因此在越来越多的应用中得到了应用。然而，多语言模型与单语言模型一样存在（性别）偏见。此外，这些模型将在不同语言中提供相似的结果是一种自然预期，但事实并非如此，并存在语言之间的重要差异。因此，我们提出了一个名为 MAGBIG 的新型基准，旨在促进无性别偏见的多语言模型研究。我们通过 MAGBIG 研究多语言 T2I 模型是否放大了性别偏见。为此，我们使用多语言提示来请求某个职业或特征的人物肖像图像（使用形容词）。我们的结果不仅显示模型偏离了每个性别应具有相等生成机会的规范假设，而且在不同语言之间存在很大差异。此外，我们还研究了提示工程策略，即使用间接、中性的表述，作为这些偏见的可能补救措施。不幸的是，它们只在有限程度上有所帮助，并导致更差的文本到图像对齐。因此，这项工作呼吁在图像生成中对跨语言的多样化表示进行更多研究。

Jan, 2024

通过使用现有的文字资源来评估 T2I 模型生成的图像中的地缘文化刻板印象，我们的研究表明在与其他属性相比，特定身份群体的图像中刻板印象出现的可能性是其他属性的三倍，并揭示出所有身份群体的默认代表都具有刻板印象的外观。

Jan, 2024

这篇研究论文介绍了一种面向文本到图像模型的刻板印象检测的新型代理架构，并发现在个人特征、社会文化背景和犯罪相关方面存在严重的刻板印象。该论文还强调了在人工智能生成内容领域中解决潜在伦理风险的紧迫性。

Oct, 2023

本文对非二元性别在语言任务中的表现、二元看待性别的伤害、语言技术中现有偏见以及如何公平地编码性别信息进行了探讨。

Aug, 2021

本研究提出了一种总结生成文本到图像模型中的社会偏见并确保结果在不同人群之间公平的方法。我们通过在多样的文本提示下，用由各种民族、性别、职业、年龄组等组合构建的感知肤色和性别差异的合成数据对文本到图像模型进行微调，从而减轻了这种偏见。相较于基准模型，我们的多样性微调模型在感知肤色和性别方面将群体公平指标分别提高了 150% 和 97.7%。该模型生成具有感知肤色较暗和更多女性的生成图像。为推动开放研究，我们将公开发布所有文本提示和生成训练图像的代码。

Oct, 2023

LLMs 生成的文本存在社会偏见，本文通过情感分数打分分析，证明了 LLMs 生成文本存在性少数群体偏见，并展示了一种基于 SHAP 分析的启发式方法来减轻性少数群体偏见的方法

Jun, 2023

通过对 T2I（Text-to-Image）生成模型中的偏见进行研究调查，揭示了存在的社会偏见对少数群体的边缘化造成的影响，并指出在研究中存在的限制和未来的研究方向。

Apr, 2024