Oct, 2023

跨身份相关语言特征中NLG系统的观察和期望

HTML
PDF
TL;DR揭示了关于NLG系统行为的公平性相关假设，从不变性到适应性，通过对不同类型的与身份相关的语言特征（姓名、角色、位置、方言和风格）在NLG系统输入中的扰动进行了五个案例研究，阐明了在不变性和适应性之间的紧张关系；概述了人们对系统行为的期望，并展示了这两种截然不同但常见的假设的潜在缺陷；发现适应的动机包括社会规范、文化差异、特定信息和适应；不变性的动机包括偏向规范主义、视适应为不必要或对NLG系统来说太难以适当完成的观点，并对错误假设持谨慎态度；研究结果突出了定义公平的NLG系统行为面临的挑战。
发现论文，激发创造
  • 自然语言推理模型的行为分析：揭示三个因素对鲁棒性的影响

    研究自然语言推理(NLI)模型的鲁棒性，特别关注三个因素：不敏感、极性和未见过的词汇。结果发现，所有模型在处理未见过的反义词语上表现都欠佳，并且容易受到单词和标签之间的简单统计相关性的影响。

    May, 2018

  • 自然语言处理中偏差和公平性调查

    本次调查分析了NLP模型的社会影响，探讨了NLP算法中存在性别、种族和文化偏见的根源，定义了公平性，并说明了NLP各个子领域如何减少系统存在的偏见，最终讨论了未来研究如何消除NLP算法中的有害偏见。

    Mar, 2022

  • NLPositionality: 数据集和模型设计偏差的表征

    NLPositionality框架用于检测自然语言处理（NLP）模型及数据集的偏差和位置特征，研究发现现有的数据集和模型普遍偏向西方白人、受过高等教育的年轻人，并排斥一些群体如非二元人群和非英语母语者，本文提出如何检查NLP模型及数据集的创造者的位置特征。

    Jun, 2023

  • 大型语言模型中的性别偏见和刻板印象

    通过对四个最近发表的大型语言模型进行测试，我们发现大型语言模型在性别刻板印象、职业偏见和句子结构等方面表现出偏见，它们更倾向于选择与性别刻板印象相关的职业，并且在提供自己选择的解释时常常存在事实错误，对于这些模型的偏见行为，我们需要谨慎测试以确保它们对待边缘化个体和社区是公平的。

    Aug, 2023

  • 一个对于大型语言模型形态学能力的多语言调查：计算ChatGPT中Wugs的错误

    大型语言模型 (LLMs) 的语言能力令人印象深刻，但在对其能力进行系统研究方面尚有较少的探讨。本研究通过对四种不同类型的语言 (英语、德语、泰米尔语和土耳其语) 进行首次严格分析 ChatGPT 的形态能力，发现 ChatGPT 在各语言中的性能远低于专门构建的系统，尤其在英语中表现不佳。总的来说，基于形态学的研究结果对 ChatGPT 的语言能力提出了新的看法，并暗示自称具有类人语言技能的说法为时尚早和误导性。

    Oct, 2023

  • 生成式语言模型表现出社会身份偏见

    调查发现现代语言模型存在基本的社会认同偏见，通过筛选训练数据可以减轻这些偏见。这些结果对于创建更少偏见的大型语言模型以及进一步研究用户与语言模型的互动以防止潜在的偏见加强具有实际意义。

    Oct, 2023

  • 扰动样本揭示语言模型共享的不变性

    通过揭示语言处理模型对特定语言能力的可解释的输入扰动具有的共同不变性来比较两个自然语言处理模型，并研究模型的改变如何影响多个明确定义的语言能力，并且大型语言模型具有多种不变性可能是最近大型语言模型取得成功的关键原因之一。

    Nov, 2023

  • 與誰對齊？大型語言模型在主觀NLP任務中存在性別和種族偏見

    人们对语言的认知取决于个人背景，如性别和种族。本研究利用包含不同人口背景注释的POPQUORN数据集，对四种常见的大型语言模型进行一系列实验，以调查它们理解群体差异和对礼貌和冒犯性的预测中的潜在偏见。结果发现，模型的预测更接近来自白人和女性参与者的标签。我们进一步探索了带有目标人口统计标签的提示，证明仅仅包含目标人口统计标签会削弱模型的性能。我们的结果表明，大型语言模型在主观性自然语言处理任务上存在性别和种族偏见，并且仅仅利用人口统计学提示可能无法消除这种影响。

    Nov, 2023

  • ChatGPT 中的语言偏见：语言模型强化方言歧视

    GPT-3.5 Turbo和GPT-4对非“标准”语言变体表现出语言偏见，导致理解能力减弱、刻板印象加剧，并存在辱人内容和居高临下的回应，这对非“标准”语言使用者产生了潜在的伤害。

    Jun, 2024

  • 角色设定陷阱：大语言模型中的持续外群偏见源于社会身份认同

    本研究解决了大语言模型（LLMs）在身份认同的内化过程中，对外群体偏见的忽视问题。通过社会身份理论，我们展示了外群体偏见与内群体偏见同样强烈，并通过引导语言模型采用被先前不利群体的视角，有效减轻了其固有的偏见。这一发现对开发更加公正平衡的语言模型具有重要意义。

    Sep, 2024