ACLMay, 2022

通过开放式语言生成测量偏见的挑战

PDF
TL;DR本文分析了影响社会偏见结果的文本补全的具体选择、度量、自动工具和抽样策略，发现在不同的实验设置下，测量偏见的实践很容易产生相互矛盾的结果，并提供了有关开放式语言生成中报告偏见的建议，从而更完整地展示给定语言模型所展示的偏见。
pretrained language modelssocial biaseslanguage generationprompt setsbias results
发现论文，激发创造
  • 评估开放式语言生成中偏差的数据集和评估标准

    该研究介绍了一个大规模数据集以及一个新的自动化度量方法，用于研究和评测深度学习技术所生成的自由文本中存在的社会偏见，并发现机器生成的大部分文本在五个领域中表现出比人类撰写的维基百科文本更大的社会偏见。

    Jan, 2021

  • ROBBIE: 大规模生成语言模型的稳健偏见评估

    评估和改善大型语言模型（LLMs）的公平性，通过使用不同的提示性数据集来测量社会偏见，对比模型之间的偏差和毒性度量，并研究偏差 / 毒性降低技术的效果。我们开源分析代码以鼓励测量未来 LLMs 偏见的广泛研究。

    Nov, 2023

  • 此提示衡量 <MASK>：评估语言模型中的偏见评估

    通过量化和定性分析 90 个偏见测试，本文在应用测量建模框架来创造捕捉偏见测试目标的属性分类法的基础上，揭示了偏见测试的核心概念和操作存在的不明确、含蓄、或不匹配的偏差种类及其频度，并提出指导方案，以便更全面地探索偏见空间和更全面地评估语言模型的实验设计。

    May, 2023

  • 基于提示的多任务学习中社交偏见的测量

    本论文探讨了在多任务文本生成模型中，使用问题 - 答案格式输入与前提 - 假设格式输入是否会影响模型的社会偏见，并使用两个基准测试评估了 T0 模型在其中的表现，结果表明前者会使得模型表现出更多的社会偏见。

    May, 2022

  • 利用自然语句理解语言模型中的偏见

    本文通过创建一个基于职业的自然句子语料库来评估语言模型上的偏差，与以往只使用合成数据集的研究方法有所不同，证明使用基于自然句子的提示会比基于预设模板的提示更为准确和系统化地评估性别 - 职业偏差。

    May, 2022

  • 发现代码生成中偏差的简单而有效方法

    本文探究了现有代码生成系统中基于大型语言模型的偏见在特定情况下可能泄漏到生成代码中的问题，提出了一种自动消除提示并暴露各种偏见的框架，并将其应用于三个编码挑战中测试，发现代码生成模型存在特定提示结构和关键字的偏见，最后，我们展示了如何将我们的框架作为数据转换技术，这是更强大的代码生成方向。

    Oct, 2022

  • 语言生成中的社会偏见：进展与挑战

    通过调查，我们着重讨论了语言生成中社会偏见的数据和技术对偏见的影响及降低偏见的进展，并进行了实验来量化解码技术的影响，提出了语言生成应用公平和包容性考虑的重要性。

    May, 2021

  • 语言模型中对陈规的理解：朝着鲁棒度量和零 - shot 去偏见的方向

    本文研究了预训练语言模型的生成文本中存在的人类偏见和其对不同人口群体的影响，针对现有的评估技术和基准的准确性问题，提出了新的评估框架以更稳健地测量和量化语言模型所表现出的偏见。并使用该框架调查了 GPT-3 的职业性别偏见，并提出了一些缓解这些偏见的提示技术。

    Dec, 2022

  • 揭示与量化代码生成中的社交偏见

    研究了预训练代码生成模型中的社交偏见问题，提出了一种新的方法来构建代码提示，以量化生成代码中的社交偏见严重程度并找出不同人口群体之间的细微差异，并分析得出低社交偏见的代码生成模型选择的有用见解。

    May, 2023

  • 评估对隐含偏见进行无限生成的非裔女性的韵律和情感

    本研究通过基于心理学方法的创新偏见测量方式，发现大型语言模型存在潜在的内隐偏见，并探讨了其在性别和种族领域的倾向性，并提出了对 AI 伦理的重要启示，强调对高级 AI 系统中偏见的持续评估和缓解的必要性。

    Jul, 2024