使用BERT模型和新颖的数据增强策略，利用共同的填充名称对候选名字进行匿名化处理，提高数据量的同时使模型更好地识别名称、缩短标记长度，并消除与名称相关的性别和地域偏见，有效提升了Gendered Pronoun Resolution挑战的性能。

May, 2019

本文调查了304篇关于自然语言处理中的性别偏见的论文，分析了社会科学中性别及其类别的定义，并将其与自然语言处理中性别偏见的正式定义联系起来，概述了应用于性别偏见研究的词汇和数据集，并比较和对比了检测和缓解性别偏见的方法。我们发现性别偏见研究存在四个核心限制，提出了解决这些限制的建议作为未来研究的指南。

Dec, 2021

通过对自然、性别敏感的MuST-SHE语料库进行POS和一致性链的语言学注释，在英法/意大利语/西班牙语三种语言方向上针对不同数量的数据和不同的词语分割技术进行多方面评估，揭示了性别偏见的模型行为，及其在多个细粒度层次上的检测价值。

Mar, 2022

本文探讨了语言技术中的性别偏见问题，提出了一个 MISGENDERED 框架来评估语言模型的性别中性人称的正确使用，发现基于二元性别训练的语言模型在使用非二元人称时普遍存在误差和算法偏差。

Jun, 2023

我们研究了标记化对机器翻译中的性别偏见的影响，着重关注训练数据中性别化职业名称频率、它们在次词标记器词汇表中的表示以及性别偏见之间的相互作用。

Sep, 2023

通过反向翻译方法研究大型语言模型中的内隐性别偏见，比较不同语言的结果，提出一种新的评估性别隐含变化的度量标准，并探究驱动偏见的句子特征，结果表明该方法能够进一步揭示语言模型中的偏见。

Mar, 2024

本文旨在研究测量后缀否定对现代英语大型语言模型（LLMs）的影响。通过负性语素表达被否定的含义，这对LLMs来说可能会具有挑战性，因为它们的分词器往往不具备形态的可行性。通过使用不同的子词分词方法，我们进行了大量实验，得出了有关分词性能和否定敏感性之间相互作用的几个见解。尽管分词准确性和否定检测性能之间存在一些有趣的不匹配，但我们证明模型总体上能够可靠地识别后缀否定的含义。

Apr, 2024

在语言模型中，个体的稳健、忠实且无害的代词使用是一个重要目标，但现有研究往往只研究其中一两个组成部分。为了衡量这一综合目标的进展，我们引入了代词使用忠实度任务：在给定引入共指实体和代词的上下文的情况下，重用正确的代词，与潜在干扰因素无关。我们提供一个精心设计的超过500万个实例的数据集，以评估英语中代词使用的忠实度，并将其用于评估37个流行的大规模语言模型，包括体系结构（仅编码器、仅解码器和编码器-解码器）和规模（11M-70B个参数）。我们发现，虽然模型在没有干扰因素的情况下通常可以忠实地重用先前指定的代词，但在处理she/her/her、singular they和新代词时，它们的表现显著较差。此外，模型对代词的忠实性并不稳健，很容易分神。即使有一个包含干扰代词的额外句子，准确性平均下降了34%。对于仅解码器模型，当有5个干扰句子时，准确性下降了52%，对于仅编码器模型则下降了13%。我们展示了广泛使用的大型语言模型仍然脆弱，推理能力有很大差距，对于人类来说是非常简单的代词处理设置也存在问题，我们鼓励在偏见和推理领域的研究人员加以解决这些问题。

Apr, 2024

研究探讨荷兰指代消解系统对中性代词（如hen和die）的性能，比较了两种去偏见技术（CDA和delexicalisation）对非二元上下文的指代消解系统的影响，并引入了评估中性代词性能的新度量标准——代词得分。结果显示相较于有性别的对应词，中性代词的性能下降，然而CDA大大缩小了有性别和中性代词之间的性能差距，并且在资源有限的情况下仍然有效，证明了以最少资源和低计算成本实现有效去偏见的可行性。

Apr, 2024

该论文介绍了一种利用大型语言模型对西班牙语语料库进行定量分析性别表达的新方法，通过识别和分类与人类实体相关的具有性别特征的名词和代词，揭示了四个广泛使用的基准数据集中存在的显著性别差异，从男性到女性的比例范围从4:1到6:1，这些发现证明了我们方法在性别语言中进行偏见量化的价值，并建议在自然语言处理中应用该方法，为更公平的语言技术发展做出贡献。

Jun, 2024