ACLJun, 2020

护士比外科医生更接近女性？缓解词向量中的性别偏见距离

PDF
TL;DR提出了一种名为 RAN-Debias 的新型性别去偏置方法，可以在不干扰语义的情况下消除词向量中的偏见，并可以改变其相邻向量的空间分布，从而实现无偏置设置，并可用于核指消解等下游应用任务。
word embeddingsbiasdebiasedspatial distributioncoreference resolution
发现论文，激发创造
  • 一种因果推断方法用于减少词嵌入关系中的性别偏见

    本研究提出了一种基于统计依存关系的方法来消除词向量关系中的性别偏差，有效避免了词向量关系中存在的性别偏见问题，并在多个联想任务中实现了最先进的结果。

    Nov, 2019

  • 去偏见：消除词嵌入中的 “人类是程序员，女性是家庭主妇” 偏见

    对 Google News 文章上的 Word Embedding 进行的实证研究表明，即使是这种非人工制作的大型文本数据，在机器学习和自然语言处理应用中也存在着性别偏见的问题。为了消除这些偏见，我们提出了一种方法进行 Word Embedding 去偏见化，从而减少性别偏见的扩大和助推。

    Jul, 2016

  • 通过因果推断实现词嵌入：减少性别偏见并保留语义信息

    通过提出一种基于因果推断框架的新方法来有效消除性别偏见，该方法可以在保留嵌入式语义信息的同时构建和分析性别信息流的复杂因果机制，从而在性别去偏任务中取得最新的技术结果。

    Dec, 2021

  • 评估上下文词嵌入中的潜在性别偏见

    在研究中，我们发现标准词嵌入即使经过去偏差处理，其性别偏差仍然很高，而上下文词嵌入则能够减少这种性别偏差，从而为自然语言处理应用提供更公正的结果。

    Apr, 2019

  • 猪涂口红：去偏置方法虽然掩盖了词嵌入中系统性的性别偏差，但并未消除它们

    本研究探讨了文本话语中的性别偏见现象，评估了现有去偏置模型的实际效果，认为现有去偏置方法虽然在表面上达到了降低偏见的效果，但实际上却只是掩盖了偏见，并认为现有技术不足以构建性别中性的计算模型。

    Mar, 2019

  • 理解不良词嵌入关联

    通过子空间投影去除 word embeddings 文本中性别刻板印象，提出了一种新的关联度量 RIPA，发现 skipgram with negative sampling (SGNS) 在训练语料库中并未增加文本准确性别聚类，但对性别刻板印象词汇却增强其性别关联。

    Aug, 2019

  • 双重强化去偏见：定制化词向量以降低性别偏见

    本文研究了人类生成语料库（human-generated corpora）中由来的单词嵌入（word embeddings）存在着的性别偏见问题，以及已有的性别去偏置（debiasing）方法的局限性；在此基础上，提出了一种新的技术，Double Hard Debias，该技术能够在推断并去除性别子空间之前，首先过滤掉语料库中存储的单词使用频率等无关因素。实验证明，与之前的方法相比，本文提出的技术不仅保留了预训练好的单词嵌入的分布语义（distributional semantics），而且能够更有效地降低性别偏见。

    May, 2020

  • 基于词嵌入的性别偏见度量的不良频率依赖性

    本文研究了使用基于词嵌入的偏差度量方法在衡量女性和男性性别偏差时词频对结果的影响，并发现 Skip-gram with negative sampling 和 GloVe 往往会在高频词中检测到男性偏见，而 GloVe 往往会在低频词中检测到女性偏见，并进一步通过与基于点互信息的替代度量方法进行比较，证明了频率对度量结果的影响来自度量本身而非词汇相关性，这种影响是虚假和有问题的，因为偏见度量应该专门依赖于词共现而不是个体词频，尽管基于点互信息的度量略微偏向男性，但它并不表现出清晰的频率依赖关系。

    Jan, 2023

  • 基于词向量的性别偏见评估的鲁棒性和可靠性：碱基对的作用

    研究表明单词嵌入存在性别偏见，过去常常以男女性词对来衡量性别偏见，但这种方式存在局限性，因为它们无法识别现实世界中的其他类型偏见，并且不能很好地指示偏见。

    Oct, 2020

  • 学习性别中性词嵌入

    本文提出了一种基于新颖训练过程的性别中性词向量的学习方法，通过在某些维度中保留性别信息并让其他维度不受性别影响的方法，成功地建立了一种 GN-GloVe 的性别中性变体，该变体在保留嵌入模型功能的基础上隔离了性别信息，并得到了定量和定性实验证实。

    Aug, 2018