使用分类器研究文中文字图生成 AI 模型中的种族和性别刻板印象，提出一种新的去偏方法并增加人脸多样性。

Feb, 2024

本研究分析了 15,300 个 DALL-E 2 图像，发现其在男性主导领域中低估女性，而在女性主导领域中高估女性，同时揭示了这些图像中的性别偏见，需要采取女性主义干预手段以防止这些带有偏见的 AI 生成图片反馈到媒体生态环境中。

May, 2023

通过研究深度生成模型对未来计算机视觉模型中潜在社会偏见的影响，本文探讨了如果使用生成的图像作为训练数据，是否会导致偏见放大，从而造成有害内容的传播。然而，与预期相反的是，我们的研究结果显示，在特定任务中出现偏见缓解的情况，这可能与图像生成中的瑕疵（如模糊的脸部）或原始数据集中的既有偏见等因素有关。

Apr, 2024

该研究提出了 BiasPainter，这是一个新颖的变态测试框架，可以准确、自动、全面地触发图像生成模型中的社会偏见，并对其公平性进行评估。实验证明，BiasPainter 成功触发了 100% 的测试案例中的社会偏见。

Jan, 2024

本文是一篇文献综述，探讨了 AI 生成模型在静态和交互媒体中简化视觉创造流程的巨大潜力及其在技术和伦理方面对多个重要产业的影响，涵盖了 AI 文本到图像生成、Midjourney、Stable Diffusion、AI 伦理、游戏设计、数字艺术和数据洗白等方面的关注点和挑战，以及如何通过适当的监管解决相关的法律、伦理等问题。

May, 2023

本文通过对两个流行的 T2I 模型（DALLE-v2 和 Stable Diffusion）进行广泛的自动化和人工评估实验，专注于反映出的性别、年龄、种族和地理位置之间的职业，人格特征和日常情况的生成图像，研究和量化常见的社会偏见。我们的研究结果表明，这些模型中存在严重的职业偏见和地理位置代表的日常情况。尽管可以通过增加提示本身的详细信息来缓解这些偏差，但提示缓解可能无法解决图像质量或模型在其他场景中的其他用途的差异。

Mar, 2023

本文研究探讨了生成 AI 技术中，AI 加入真实数据之后可能会产生回馈循环并导致未来模型的降级和多样性降低的情况，从而产生社会影响。同时，对于如何缓解这种回馈循环以及降低未来技术模型降级的影响也提出了相关问题。

Jun, 2023

本研究旨在通过在六个不同的神经网络中进行深入调查，对面部表情识别的深度学习方法中的性别偏见进行研究，并根据公正的三个定义对其进行评估。结果显示，某些模型存在性别偏见，而更具偏见性的神经网络在男性和女性测试集之间的情感识别准确度差距更大，此外也观察到更适合用于男性和女性情感分类的不同情绪类型。

Mar, 2021

生成型 AI 系统的情感表达能力对于 AI 系统的有效性至关重要，特别是那些旨在支持人类心理健康的系统。本研究旨在通过设计一项调查，测量生成型 AI 表达的情感与人类感知的一致性，以回答 AI 如何成功地表达特定情感的问题。通过评估多个生成型图像模型在表达积极和消极情感方面的表现，并分析其中的性能差异，我们发现生成型 AI 模型能够表达出与人类情感相一致的情感表达，但这种一致性在不同 AI 模型和情感本身上存在显著差异，我们还对未来改进的领域进行了分析，并讨论了对于旨在支持心理健康的未来 AI 系统的意义。

May, 2024

研究如何发现和量化生成语言模型中的性别偏见，并设计了针对职业性别刻板印象的标准，通过职业性别刻板印象的测试结果论证了这些标准在生成人工智能模型中的存在。

Mar, 2024