礼貌刻板印象与攻击向量：日韩语言模型中的性别刻板印象

Jun, 2023

礼貌刻板印象与攻击向量：日韩语言模型中的性别刻板印象

Politeness Stereotypes and Attack Vectors: Gender Stereotypes in Japanese and Korean Language Models

Victor Steinborn, Antonis Maronikolakis, Hinrich Schütze

TL;DR该研究旨在探讨日韩语言模型中的性别偏见和礼貌级别的语法性别偏见，发现非正式礼貌语是女性语法性别的最佳指示符，粗鲁和正式语言是男性语法性别的最佳指示符。同时，礼貌级别是网络欺凌检测模型中的分配性别偏见攻击向量，并提出了一种攻击数据集来显示分配性别偏见可以被训练消减。

Abstract

In efforts to keep up with the rapid progress and use of large language models, gender bias research is becoming more prevalent in NLP. Non-English bias research, however, is still in its infancy with most work focusing on English. In our work, we study how grammatical →

gender bias language models japanese korean politeness levels

发现论文，激发创造

研究土耳其语言模型中的性别偏见

该研究探讨土耳其语言模型中的性别偏见及民族偏见，并基于实验证据分析模型特性对偏见的影响，同时公开土耳其性别偏见数据集。

Apr, 2024

西斯拉夫语言模型中性别偏见的测量

本研究旨在分析西斯拉夫语言模型中的性别偏见，通过评估单语和多语言模型的性别偏见情况以及生成词的有害程度和性别特征，发现针对男性的西斯拉夫语言模型生成的词较为有害，且与暴力，死亡和疾病有关系。

Apr, 2023

评测性别中性代词的翻译性别偏见

本研究提出了一种用于评估机器翻译系统性别偏见的测试集方案，并构建了一组既不带有偏见性别也不过度偏向一侧的词组，然后通过该方案评估了传统机器翻译系统的性别偏见。

May, 2019

自然语言处理中的性别偏见调查

本文调查了 304 篇关于自然语言处理中的性别偏见的论文，分析了社会科学中性别及其类别的定义，并将其与自然语言处理中性别偏见的正式定义联系起来，概述了应用于性别偏见研究的词汇和数据集，并比较和对比了检测和缓解性别偏见的方法。我们发现性别偏见研究存在四个核心限制，提出了解决这些限制的建议作为未来研究的指南。

Dec, 2021

利用反事实数据增强来减轻语言中丰富形态学的性别刻板印象

提出一种新方法，在语法形态复杂的语言（如西班牙语和希伯来语）中将男性化和女性化的句子互相转换，以达到减少性别刻板印象的目的，同时保持语法正确性。

Jun, 2019

量化预训练语言模型中的性别偏见和倾斜

本文提出了两个直观的度量标准、skew 和 stereotype，来量化和分析上下文语言模型应对 WinoBias 代词消解任务时存在的性别偏见，并通过两种方法调查了如何减少偏见。第一个方法是在线方法，在牺牲刻板印象的代价下有效地消除偏斜。第二个方法是借鉴了 ELMo 的先前工作，并使用增强的性别平衡数据集微调 BERT，结果与无增强微调的 BERT 相比，降低了 skew 和 stereotype。但是，我们发现现有的性别偏见基准未完全探测到专业偏见，因为代词消解可能会被来自其他性别偏见表现的交叉相关性所混淆。

Jan, 2021

多语种性别偏见探测的视角

通篇论文研究了性别偏见如何通过语言和语言技术表达，并且扩展了对多语言环境中性别偏见的研究，强调了多语言和多元文化视角对于理解社会偏见的重要性。

Mar, 2024

大型语言模型中的性别偏见

我们研究了不同语言中大型语言模型生成的输出中的性别偏见，通过三项测量方法评估性别相关背景下选择描述性词语的性别偏见、选择性别相关代词（她 / 他）的性别偏见以及生成对话的主题的性别偏见。我们的研究表明，在我们调查的所有语言中都存在显著的性别偏见。

Mar, 2024

在形态句法镜头下：对语音翻译性别偏见的多方位评估

通过对自然、性别敏感的 MuST-SHE 语料库进行 POS 和一致性链的语言学注释，在英法 / 意大利语 / 西班牙语三种语言方向上针对不同数量的数据和不同的词语分割技术进行多方面评估，揭示了性别偏见的模型行为，及其在多个细粒度层次上的检测价值。

Mar, 2022

评估大型语言模型中的性别和种族刻板印象

通过比较研究和建立评估框架，在专业环境中研究语言模型的两种偏见：性别和种族。我们发现，尽管较新的模型相比较老模型来说性别偏见大大减少，但种族偏见仍然存在。

Nov, 2023