Feb, 2022

欢迎来到当代代词世界：超越性别的身份包容型自然语言处理

PDF
TL;DR本文探讨了 NLP 在第三人称代词领域的问题及其对边缘化群体的歧视和影响，提出了对代词建模的伦理准则，并基于此评估了现有和新颖的建模方法，量化了更不具歧视性的方法对基准数据的影响。
pronounsnatural language processinggender-exclusive language technologymarginalized groupsdiscrimination
发现论文，激发创造
  • 如何处理（新）代词：商业机器翻译的失败

    本文针对以往自然语言处理领域所忽略的 neopronouns 等全新形式三人称代词使用方式及其对包容性的影响展开探究，特别关注了机器翻译对于被边缘化团体如非二进制人群等的歧视问题。发现中性代词经常导致语法和语义翻译错误，因此提供了针对这些问题的未来研究建议。

    May, 2023

  • 语言模型的保守程度？如何适应中性代词的引入

    研究指出，瑞典语中的性别中立代词与人类的处理没有难度，但在语言计算模型中会导致较高的不确定性、更分散的注意力模式和更劣的下游性能，进而可能限制性别中立代词的广泛应用。

    Apr, 2022

  • MISGENDERED: 大型语言模型在理解代词方面的局限性

    本文探讨了语言技术中的性别偏见问题，提出了一个 MISGENDERED 框架来评估语言模型的性别中性人称的正确使用，发现基于二元性别训练的语言模型在使用非二元人称时普遍存在误差和算法偏差。

    Jun, 2023

  • 众包数据集中的代词错误

    研究使用多语言翻译技术在虚拟助手中嵌入多元化，解决人称代词翻译偏差问题的实践方案。

    Apr, 2023

  • 自然语言处理偏差研究中 “性别” 理论

    该研究回顾了近 200 篇关于 NLP 中有关性别偏见的文章，发现大部分文章没有明确说明他们如何理解性别，甚至没有使用包容性的模型，对非二元性别人群的存在和经验忽视，提出建议以便在 NLP 研究中融入女性学理论和方法，以期实现更加包容的性别偏见研究。

    May, 2022

  • 您是在与 ['xem'] 或者 ['x', 'em'] 交谈吗？关于标记化和处理 LLM 中的性别错误的研究

    通过研究语料数据稀缺对子词分词及大型语言模型中单词表示的影响，以及 Byte-Pair Encoding (BPE) 分词器在缺少特定词汇时与新代词性别错误相关性，提出了保持词语功能结构的新方法 PTP 来改善大型语言模型中的新代词一致性，实验证明 PTP 能够使新代词一致性从 14.5% 提升至 58.4%。

    Dec, 2023

  • 自然语言处理中的性别偏见调查

    本文调查了 304 篇关于自然语言处理中的性别偏见的论文，分析了社会科学中性别及其类别的定义，并将其与自然语言处理中性别偏见的正式定义联系起来，概述了应用于性别偏见研究的词汇和数据集，并比较和对比了检测和缓解性别偏见的方法。我们发现性别偏见研究存在四个核心限制，提出了解决这些限制的建议作为未来研究的指南。

    Dec, 2021

  • 转换荷兰语：去偏向非二元代词的荷兰语共指消解系统

    研究探讨荷兰指代消解系统对中性代词（如 hen 和 die）的性能，比较了两种去偏见技术（CDA 和 delexicalisation）对非二元上下文的指代消解系统的影响，并引入了评估中性代词性能的新度量标准 —— 代词得分。结果显示相较于有性别的对应词，中性代词的性能下降，然而 CDA 大大缩小了有性别和中性代词之间的性能差距，并且在资源有限的情况下仍然有效，证明了以最少资源和低计算成本实现有效去偏见的可行性。

    Apr, 2024

  • 评测性别中性代词的翻译性别偏见

    本研究提出了一种用于评估机器翻译系统性别偏见的测试集方案，并构建了一组既不带有偏见性别也不过度偏向一侧的词组，然后通过该方案评估了传统机器翻译系统的性别偏见。

    May, 2019

  • 超越仇恨言论：自然语言处理在揭示贬损语言中的挑战与机遇

    评估了 GPT-4、GPT-3.5 和 LLAMA-2 等先进的自然语言处理模型在检测贬低人性用语方面的性能表现，发现它们能够以 70% 的准确率区分贬低人性用语和更广泛的仇恨言论，但也存在偏见，并且在识别其他目标群体的明显贬低人性案例上经常失败。此外，使用最佳模型之一进行了更大规模数据集的自动注释，但发现目前这些模型未能达到此任务所需的高质量数据生成标准。

    Feb, 2024