Jan, 2022

词嵌入的地理负偏差预测种族敌意 —— 仅通过姓名频率

PDF
TL;DR该论文研究了使用 word embeddings 进行测量种族偏见时出现的问题，结果表明需要考虑 term frequency，同时还展示了使用 black-box 模型研究人类认知和行为潜在后果。
word embeddingsracial biasweatlinguistic biasessocial media
发现论文，激发创造
  • 我的词嵌入中有哪些偏见？

    本文介绍了一种用于枚举词嵌入中偏差的算法。该算法利用几何模式在公共可用的嵌入中暴露了大量与敏感特征（如种族和性别）相关的冒犯性联想，以及所谓 “消除偏见” 的嵌入。该算法高度不受监督，可用于识别基于社会建构的许多形式的歧视，如种族歧视，这些歧视可能会因上下文而异。同时，我们还展示了如何移除名字可能无法消除潜在的代理偏差。

    Dec, 2018

  • 社会偏见媒体表示准确度的评估：没有完美的单词嵌入模型

    通过分析 500k 篇美国在线新闻文章中存在的社会偏见类型，使用考虑了嵌入表示问题的多种算法以及 WEAT，比较了这些算法在新闻文章中训练的模型所表示的期望社会偏见，结果发现标准偏差检测方法与心理学知识并不一致，而新提出的算法虽然减轻了这种差距，但仍然无法完全匹配这些文献。

    Nov, 2022

  • 自然语言生成自动评估度量中的社会偏见

    该论文提出了一种基于 WEAT 和 SEAT 的方法来量化评价指标中的社会偏见，发现在一些基于模型的自动评价指标中也存在广泛的社会偏见，并构建了性别交换的元评价数据集来研究在图像标题和文本摘要任务中性别偏见的潜在影响。结果表明，基于模型的评价指标在评估中给予男性假设更多的偏好，并且在性别交换后评估指标与人类判断之间的相关性通常具有更大的变化。

    Oct, 2022

  • 自然语言语料库所自动生成的语义带有类似人类的偏见

    这份研究首次展示，应用标准机器学习到日常语言时会形成类似于人类的语义偏见，同时该研究还提供了用于评估文本偏见的新方法。

    Aug, 2016

  • 理解不良词嵌入关联

    通过子空间投影去除 word embeddings 文本中性别刻板印象，提出了一种新的关联度量 RIPA，发现 skipgram with negative sampling (SGNS) 在训练语料库中并未增加文本准确性别聚类，但对性别刻板印象词汇却增强其性别关联。

    Aug, 2019

  • 使用 WEAT 评估的概念消除词表示偏见

    通过使用概念器去偏置来后处理传统和上下文的单词嵌入，该方法可以同时消除种族和性别偏见，并且可以有效地利用偏见单词的异构列表。该方法可以减少单词嵌入所表示的种族和性别偏见，其中通过 Caliskan 等人的单词嵌入关联测试（WEAT）来衡量。

    Jun, 2019

  • 词嵌入联合多类别去偏置

    本文提出了一种联合多类去偏差方法 SoftWEAT，它可以在减少多个偏差方面取得良好的结果，并通过在三个不同的公开数据集上进行实验，在三个偏差分类（宗教、性别和种族）中去偏差 Word Embeddings，显示出其可行性，同时维持着词嵌入中向量的有意义关系，从而加强了更具代表性的文本数据的基础。

    Mar, 2020

  • 基于贝叶斯方法的词向量偏差估计不确定性

    该研究提出了一种基于贝叶斯建模的方法，以更准确地检测词向量中的偏见，并在 Religion、Gender 和 Race 词表上进行了展示，验证了它的有效性。

    Jun, 2023

  • 降低词向量中的偏见

    本研究探索检测嵌入式中最具有性别刻板印象的词语并消除偏见的新方法，揭示名字作为性别偏见的携带者的属性，扩展名字的属性来检测嵌入式中其他类型的偏见，如基于种族、年龄的偏见。

    Jan, 2019

  • 全球之音、地方偏见：跨语言的社会文化偏见

    这项研究通过对 24 种语言进行 Word Embedding Association Test (WEAT) 的扩展，以更广阔的研究视角揭示了语言模型的偏见，并通过在全球范围内捕捉有关每种语言的文化相关信息，进一步提高了数据的质量。文章还展示了对毒性、庸能主义等方面的新偏见维度的研究，并通过对印度六种常用语言进行了全面的地区偏见分析，最后通过对嵌入方法的广泛比较强调了这些社会偏见和新维度的重要性，同时强调了解决这些问题对建立更公平的语言模型的必要性。

    Oct, 2023