EMNLPMay, 2022

在综合描述符数据集中发现语言模型中的新偏见

PDF
TL;DR本文介绍了一种全新的包含 13 个不同人口统计学轴线近 600 个描述符的、基于 HolisticBias 的更加包容性的偏差测量数据集，结合一组偏差测量模板产生超过 45 万个独特的句子提示，用于探索、识别和减少几个生成模型中的新型偏差。
language modelsbias measurement datasetholisticbiasdemographic axesgenerative models
发现论文，激发创造
  • ROBBIE: 大规模生成语言模型的稳健偏见评估

    评估和改善大型语言模型（LLMs）的公平性，通过使用不同的提示性数据集来测量社会偏见，对比模型之间的偏差和毒性度量，并研究偏差 / 毒性降低技术的效果。我们开源分析代码以鼓励测量未来 LLMs 偏见的广泛研究。

    Nov, 2023

  • 跨语言综合偏差：扩展描述和模式以揭示大规模语言中的人口统计学偏差

    介绍了一个多语言扩展的 HOLISTICBIAS 数据集，提供了一个综合的人称参考英语模板分类法，旨在发现人口统计不平衡并量化缓解措施。初步研究表明，在评估平均人类阅读者时，EN-to-XX 翻译的质量比女性更好，而对于主题相同但性别不同的情况，则男性翻译平均比女性更好。在将句子嵌入到联合多语言句子表示空间时，我们发现对于大多数语言，男性翻译与英语中性句子更接近。

    May, 2023

  • 社会偏见探测：语言模型的公平性基准测试

    本研究提出了一种新的框架，用于探索语言模型中的社会偏见，通过采集探索数据集和利用一种新的公平性评分方法，发现语言模型中的偏见更加复杂，并揭示不同宗教身份导致各种模型中最明显的不平等处理。

    Nov, 2023

  • IndiBias: 用于测量印度语境下语言模型社会偏见的基准数据集

    IndiBias 是一个专门为评估印度社会偏见而设计的全面基准数据集，它将现有的 CrowS-Pairs 数据集过滤和翻译成印地语，并利用 ChatGPT 和 InstructGPT 等大型语言模型增加了印度独特的社会偏见和刻板印象维度，同时还针对交叉偏见构建了相应的资源。该数据集包含 800 个过滤后的句子和用于不同人口统计的偏见测量元组，提供英语和印地语两种语言的版本，规模可与现有的基准数据集相媲美。通过使用 IndiBias，我们比较了十种不同的语言模型在多个偏见测量指标上的表现，发现语言模型在大多数交叉群体中表现出更多偏见。

    Mar, 2024

  • 朝着大规模多语言整体偏见

    在当前自动生成语言的研究领域，随着现有模型变得越来越多语种化，有必要了解、评估和减轻人口统计偏见。为了解决这个问题，我们提出了 MASSIVE MULTILINGUAL HOLISTICBIAS（MMHB）数据集和基准测试，初始使用八种语言，包含大约 600 万个句子，代表了 13 个人口统计轴。我们提出了一种自动构建方法，通过有限的人工标注来进一步扩展 MMHB 句子的语言覆盖范围和规模。我们的方法利用多语言句子构建中的占位符，并采用一种系统的方法来独立翻译句子模式、名词和描述词。结合人工翻译，该技术精心设计占位符，以动态生成多个句子变体，并显著减少人工翻译工作量。为了避免基于英文的视角，并包括需要的所有语言的形态变化，翻译过程已进行了精心的处理，从原始的英文 HOLISTICBIAS 进行改进。最后，我们利用 MMHB 在机器翻译任务中报告了性别偏见和增加的毒性。通过性别分析，MMHB 揭示了：(1) 缺乏性别鲁棒性，对于男性语义句子，CHRF 指标平均比女性的高出将近 4 个百分点；(2) 趋向于过度普遍化到男性形式，对于男性参考文献，CHRF 指标平均比女性的高出将近 12 个百分点。MMHB 引发了高达 2.3% 的增加毒性。

    Jun, 2024

  • 走向一种整体方法：通过跨学科视角理解自然语言处理模型中的社会人口偏差

    快速增长的自然语言处理在各种社会技术解决方案中的使用和应用突显了对偏见及其对社会的影响的全面理解的需求。虽然 NLP 中的偏见研究得到了扩展，但仍存在一些需要关注的挑战，包括有限地关注种族和性别以外的社会人口偏见、主要集中在模型上的狭窄分析范围，以及技术为中心的实施方法。本文解决了这些挑战，并倡导一种更加跨学科的方式来理解 NLP 中的偏见。该工作分为三个方面，每个方面探索 NLP 中的特定偏见方面。

    Aug, 2023

  • 大型语言模型中的偏见和公平性研究综述

    大型语言模型中的社会偏见评估和缓解技术的综述，介绍了社会偏见与公平的概念、评估指标和数据集，以及介绍了干预方法的分类和研究趋势，帮助研究人员和实践者更好地理解和防止偏见在大型语言模型中的传播。

    Sep, 2023

  • 自然语言处理中偏见和伤害的度量

    该研究提出了有关 NLP 技术中有关社会偏见的框架和一系列问题，并且通过几个案例研究来验证了我们的框架和记录问题。

    Aug, 2021

  • 用实际数据衡量文本分类的意外偏误的微妙度量

    该论文通过引入一套阈值不可知的度量标准，考虑分类器分数分布在指定群体中的变化，从而提供了深入了解机器学习中的未预期偏差的视角，该方法可帮助发现现有公共模型中的新的潜在微妙的偏差，并使用在线评论和众包注释展示该度量标准的运用。

    Mar, 2019

  • 多模态偏见：在视觉语言模型中引入一个能评估除性别和种族以外刻板印象的框架

    本文提出了一个名为 MMBias 的基准数据集，用于评估自我监督多模态模型中的偏差，并介绍了一种旨在缓解偏差的去偏置方法。

    Mar, 2023