法律意见词嵌入的性别和种族刻板印象检测

Mar, 2022

法律意见词嵌入的性别和种族刻板印象检测

Gender and Racial Stereotype Detection in Legal Opinion Word Embeddings

Sean Matthews, John Hudzina, Dawn Sepehr

TL;DR本文针对自然语言处理中的语言偏见问题，提出了一种用于识别美国司法审判文件中的嵌入有性别和种族刻板印象的词语的方法，并对法律域中的这些性别和种族偏见问题进行了分析并提出了可能的缓解策略。

Abstract

Studies have shown that some natural language processing (NLP) systems encode and replicate harmful biases with potential adverse ethical effects in our society. In this article, we propose an approach for identifying gender and racial stereotypes in →

发现论文，激发创造

量化和减少词嵌入中的刻板印象

通过研究word embedding中的性别特征，开发了一种有效算法，减少性别刻板印象又能保留嵌入的有用几何特性。

Jun, 2016

去偏见：消除词嵌入中的“人类是程序员，女性是家庭主妇”偏见

对Google News文章上的Word Embedding进行的实证研究表明，即使是这种非人工制作的大型文本数据，在机器学习和自然语言处理应用中也存在着性别偏见的问题。为了消除这些偏见，我们提出了一种方法进行Word Embedding去偏见化，从而减少性别偏见的扩大和助推。

Jul, 2016

猪涂口红：去偏置方法虽然掩盖了词嵌入中系统性的性别偏差，但并未消除它们

本研究探讨了文本话语中的性别偏见现象，评估了现有去偏置模型的实际效果，认为现有去偏置方法虽然在表面上达到了降低偏见的效果，但实际上却只是掩盖了偏见，并认为现有技术不足以构建性别中性的计算模型。

Mar, 2019

侦测和消除词向量多类偏差：黑人类比罪犯，白人类比警察

本文介绍了一种多类去偏差词嵌入的方法及其在标准自然语言处理任务中的有效性，防止机器学习模型被嵌入了在线文本中的人类刻板印象和偏见。