SIGIRMay, 2020

神经排序模型是否加剧了性别偏见？

PDF
TL;DR本研究以非性别查询为基础，根据两个度量标准，从性别偏见的角度研究了 BM25 模型和几种最近的神经排名模型，实验表明，虽然所有模型都强烈偏向男性，但神经模型，特别是基于语境嵌入模型的神经模型，显著加剧了性别偏见。而且当这些神经模型利用传递学习时，性别偏见总体上呈增加趋势。
gender biasinformation retrievalneural modelscontextualized embedding modelstransfer learning
发现论文，激发创造
  • 消除信息检索模型中的性别偏见

    研究通过引入性别缓解技术、使用预训练模型以及适配器网络，成功地减轻了性别偏见问题，并提高了信息检索的敏感性。

    Aug, 2022

  • 神经自然语言处理中的性别偏见

    本文研究了神经自然语言处理系统是否反映了训练数据中的历史偏见。通过定义量化神经自然语言处理任务中的性别偏见的基准测试，实证研究发现目前最先进的神经语言模型和基于基准数据集的循环神经网络在职业看待上存在显著的性别偏见。作者提出了一种基于因果干预的语料库增强通用方法，CDA，以减轻偏见而保留矫正前的准确性。作者发现 CDA 优于词嵌入去偏的先前方法，尤其是在词嵌入训练时；对于预先训练的嵌入，两种方法可以被有效地组合。作者还发现原始数据集在优化时会鼓励性别偏见增加；而 CDA 可以缓解这种行为。

    Jul, 2018

  • 文本嵌入模型中的偏差

    这篇论文研究了文本嵌入模型的偏见程度，特别是在性别维度上。分析表明，文本嵌入模型容易出现性别偏见，但表现方式各异。虽然有一些模型之间的共性，例如把护士、家庭主妇和社交女士等职业更多地与女性身份相关联，而把 CEO、经理和老板等职业更多地与男性身份相关联，但并非所有模型对每个职业都做出相同的性别关联。此外，偏见的大小和方向也会因模型和特定提示性词而有所不同。该论文证明了性别偏见对文本嵌入模型的影响，并建议使用这项技术的企业应对这一问题的特定维度保持警惕。

    Jun, 2024

  • 评估上下文词嵌入中的潜在性别偏见

    在研究中，我们发现标准词嵌入即使经过去偏差处理，其性别偏差仍然很高，而上下文词嵌入则能够减少这种性别偏差，从而为自然语言处理应用提供更公正的结果。

    Apr, 2019

  • 图像搜索中的性别偏差问题：性别中性查询真的是性别中性吗？

    本文研究互联网搜索中出现的性别偏见，尤其是在图像搜索中的性别失衡问题。为此，我们提出了两种消除偏见的方法：采用处理中的合理采样方法解决训练模型时的性别失衡问题，以及采用基于互信息的后处理特征裁剪方法来消除预训练模型的多模式表示中的偏见。通过在 MS-COCO 和 Flickr30K 基准测试上进行的大量实验，证明了我们的方法显著降低了图像搜索模型中的性别偏见。

    Sep, 2021

  • 利用词嵌入技术消除神经机器翻译中的性别偏差

    本文提出使用词向量以减少神经机器翻译中性别偏见的方法并应用于 Transformer 翻译结构中，通过评估在 WMT 英西标准测试上的结果，展示出一定的性能提高和在职业测试集上消除基线系统已存在的偏见。

    Jan, 2019

  • 自然语言推断中的性别偏见评估

    本文提出了一种评估方法来测量天生的性别偏见，其通过构建一项挑战任务，通过将性别中性前提与性别具体假设进行配对的方式来进行。研究发现，许多先进的 NLI 模型在使用职业数据集进行训练时会因性别偏见而出现错误，但通过通过扩充训练数据集来确保性别平衡，可以在某些情况下帮助减少此类偏差。

    May, 2021

  • 识别和减少单词级语言模型中的性别偏见

    本研究以性别为例，用度量方法描述了文本语料中的社会问题偏差。提出了语言模型的正则化损失项以减少性别偏差，最终在多个语料库中验证了该方法的有效性。

    Apr, 2019

  • LLM 可能主导信息检索：神经检索器偏向于由 LLM 生成的文本

    大型语言模型在信息检索应用中产生的源偏见以及相关的模型评估和研究的重要性。

    Oct, 2023

  • Transformer 模型中的性别偏见：全面调查

    本篇论文从语言学角度全面调查了 Transformer 模型中的性别偏见，批判性地审查了现有文献关于 Transformer 中性别偏见的方法和度量标准，并提出了当前方法的局限性，强调了在开发和部署语言技术时，促进公平的重要性。

    Jun, 2023