CVPRApr, 2024

OpenBias：文本到图像生成模型中的开放集偏差检测

PDF
TL;DR本研究提出了一种名为 OpenBias 的新管道，旨在对文本到图像生成模型中的开放集偏见进行识别和量化，并通过定量实验证明 OpenBias 与目前的封闭集偏见检测方法和人类判断一致。
发现论文，激发创造
  • 量化文本到图像生成模型中的偏差

    对比四种最新的文本到图像生成模型的基准偏差特征与各自变体，在社会偏见和一般偏见方面提出了三种评估方法，并将该方法应用于字幕图像数据集以衡量其偏见。

    Dec, 2023

  • 文本图像生成模型的质量、偏差和性能分析

    通过 qualitatively 评估精确生成人脸、群体和指定数量对象的图片，我们不仅检查了多个文本到图像模型的性能，还进行了社会偏见分析。我们发现，容量更大的模型生成的图片质量更高，但同时这些模型也存在固有的性别或社会偏见，从而更全面地了解了它们的影响和局限性。

    Jun, 2024

  • TIBET: 文本到图像生成模型中的偏见识别和评估

    我们提出了一种通用方法，通过反事实推理来研究和量化任何文本到图像生成模型和任何提示的广泛偏见和偏差，并以语义概念的形式扩展了定量评分。

    Dec, 2023

  • 评估开放式语言生成中偏差的数据集和评估标准

    该研究介绍了一个大规模数据集以及一个新的自动化度量方法，用于研究和评测深度学习技术所生成的自由文本中存在的社会偏见，并发现机器生成的大部分文本在五个领域中表现出比人类撰写的维基百科文本更大的社会偏见。

    Jan, 2021

  • 潜在方向：生成式人工智能中的偏见缓解简单路径

    通过学习潜在空间中的方向并仅修改扩散过程中提供的初始高斯噪声，我们的工作引入了一种新方法，实现多样性和包容性合成图像，这成功地适应了各种去偏差场景，如地理偏差。

    Jun, 2024

  • 文本到图像生成中的偏见调查：定义、评估和缓解

    通过对 T2I（Text-to-Image）生成模型中的偏见进行研究调查，揭示了存在的社会偏见对少数群体的边缘化造成的影响，并指出在研究中存在的限制和未来的研究方向。

    Apr, 2024

  • 语言引导的未知数据集偏差检测与减轻

    在这项研究中，我们提出了一种在没有先验知识的情况下通过关键词的部分出现来识别潜在偏见的框架，并进一步提出了两种去偏方法：(a) 通过指定伪标签将其传递给现有的需要先验知识的去偏方法，以及 (b) 通过文本到图像生成模型进行数据增强，使用获得的偏见关键词作为提示。实验结果表明，尽管简单，我们的框架不仅能在没有先验知识的情况下胜过现有方法，而且甚至可以与假设有先验知识的方法媲美。

    Jun, 2024

  • 公平扩散：教导文本到图像生成模型公平性

    通过一项称为公平扩散的新策略，无需数据筛选和额外培训，即可在没有任何偏见的情况下指导生成模型的公平性和防止其加重偏见。

    Feb, 2023

  • ViG-Bias: 视觉基础偏见发现与缓解

    通过整合视觉解释力量，本研究提出了一个名为 Visually Grounded Bias Discovery and Mitigation (ViG-Bias) 的简单而高效的技术，并通过全面评估证明其对现有的 DOMINO、FACTS 和 Bias-to-Text 等技术的性能提升，在包括 CelebA、Waterbirds 和 NICO++ 在内的多个具有挑战性的数据集上都取得了成功。

    Jul, 2024

  • 通过复合触发背门在文本到图像模型中注入偏见

    对文本到图像生成模型中的攻击漏洞进行了研究，证明了通过少量恶意数据样本在特殊触发条件下激活的后门攻击的可行性，突出了在操作限制下证明偏见存在的挑战，并强调了对这些漏洞的强大防御策略的需求。

    Jun, 2024