ACLJul, 2023

评估和减轻多语言环境中的性别偏见

PDF
TL;DR这项研究探讨在多语言环境中评估和减少性别偏见在语言模型中的挑战，并通过 DisCo 扩展到不同的印度语言来创建了一个评估预训练屏蔽语言模型中性别偏见的基准，同时评估了各种方法对 SOTA 大规模多语言模型减轻此类偏见的有效性。
gender biaseslanguage modelsmultilingual settingsindian languagesdebiasing methods
发现论文，激发创造
  • 预训练印度语言模型的高效性别去偏见

    本文针对印度语言，量化职业中的性别偏见，并通过有效的微调方法减缓其中存在的偏见，以建立更公平的系统。

    Sep, 2022

  • 印度语言的多语言偏见检测和缓解

    缺乏多元观点导致维基百科内容中的中立偏见，从而使数百万全球读者接触到潜在的不准确信息。因此，中立偏见的检测和缓解是一个关键问题。我们为此提供了两个大型数据集 mWikiBias 和 mWNC，分别涵盖 8 种语言，用于中立偏见的检测和缓解任务。接下来，我们通过将检测建模为二元分类问题和将缓解建模为样式转换问题，研究了流行的多语言基于 Transformer 的模型在这两个任务中的有效性。我们将代码和数据公开提供。

    Dec, 2023

  • 评估印地语 - 英语机器翻译中的性别偏见

    本研究旨在评估和量化印地 - 英语机器翻译系统中的性别偏见，并实现了一种基于语法考虑的修改版本的现有 TGBI 度量标准，同时比较了预先训练的嵌入和我们的机器翻译模型所学习的嵌入的多个指标上产生的偏差测量结果。

    Jun, 2021

  • 减轻 BERT 中的语言依赖性民族偏见

    本文旨在研究 BERT 等大型语言模型中的偏见问题，特别是种族偏见问题的度量和消除方法，使用了 “Categorical Bias score” 度量方法和两种消除方法，包括多语言模型和两个单语言模型的上下文词对齐方法，并对英语，德语，西班牙语，韩语，土耳其语和中文等多种语言进行验证和比较。结果表明，这些方法可以有效减轻种族偏见问题，但效果取决于该语言的 NLP 资源量。同时，本论文还验证了这些方法适用于更多种语言，如阿拉伯语和希腊语。

    Sep, 2021

  • 探索并缓解语言模型中的社会偏见

    为了提高语言模型的公正性，本文提出了多项定义并给出了新的测试和度量方式，旨在减少机器学习在文本生成过程中对性别、种族、语言宗教等社会构建的刻板印象所带来的负面影响。实证结果和人工评估表明，该方法能够在文本生成中减少偏见同时保留重要的上下文信息。

    Jun, 2021

  • 多语言文本分类中缓解性别偏见的易于适应性

    本论文研究在多语言环境下，通过将性别视为领域，利用标准领域适应模型减少性别偏见，提高文本分类器的性能，并在两个文本分类任务中评估方法，证明了该方法的有效性，同时使用三个公平感知的基线进行了实验。

    Apr, 2022

  • 多语言词嵌入去偏见：以印度三种语言为案例研究

    该论文提出了一种改进的去偏置单语词嵌入方法，以便于能够在跨语言情境下得到良好泛化，通过考虑不同的偏置量化方法以及单 / 多语言情境下不同的去偏置方法，证明了去偏置方法在下游 NLP 应用中的重要性。作者提出的方法在英语以及印地语、孟加拉语和泰卢固语三种印度语言的多语言嵌入中建立了最先进的效果，这将为基于词嵌入的不偏执下游 NLP 应用程序的创建打开新机遇。

    Jul, 2021

  • 不同语言中的典型偏见有多大差异？

    通过系统地分析使用不同语言、单语和多语模型、不同架构的偏向性，扩展了评估预训练英语语言模型中的刻板偏见的研究范围，发现在多语言环境下分析是非常重要的，并且公布了代码库以及翻译数据集的实用指南以鼓励将我们的工作进一步扩展到其他语言。

    Jul, 2023

  • 在印地语和马拉地语中缓解性别刻板印象

    本文评估了印地语和马拉地语中的性别刻板印象，并使用嵌入相干性测试（ECT）和相对规范距离（RND）衡量偏差，并尝试缓解这些语言中的性别偏见。

    May, 2022

  • 比较多语言训练的偏差及其影响

    本论文对多种语言进行偏见分析，研究多语言数据训练与单语言数据训练对 Bias 的影响并使用情感分析模型来观察不同民族是否被更正面地看待，结果发现多语言 Finetuning 导致对保护群体的预测变异性增加，表明了 Bias 的放大效应。

    May, 2023