Jun, 2024

ChatGPT 中的语言偏见：语言模型强化方言歧视

PDF
TL;DRGPT-3.5 Turbo 和 GPT-4 对非 “标准” 语言变体表现出语言偏见，导致理解能力减弱、刻板印象加剧，并存在辱人内容和居高临下的回应，这对非 “标准” 语言使用者产生了潜在的伤害。
linguistic biaschatgptnon-standard varietiescomprehensionstereotyping
发现论文，激发创造
  • 优秀但不足的：大型语言模型中的国籍偏见 - ChatGPT 的案例研究

    ChatGPT（GPT-3.5）是一个大型语言模型，该研究调查了 ChatGPT 中的国籍偏见，通过分析自动生成的论述，发现其生成的文本表现出真实世界中的国籍偏见，强调了对大型语言模型中潜在偏见的进一步审查的必要性。

    May, 2024

  • ChatGPT 中的性别偏见有多普遍？-- 探索德语和英语 ChatGPT 的回答

    分析 ChatGPT 对有性别偏见和提示分析的系统回应，检查其可用性和限制。

    Sep, 2023

  • ChatGPT 中出现音系偏差

    本文探讨大型语言模型 ChatGPT 是否存在语音偏向，并证明其具有类似于人类的辅音偏向，不受语言差异的影响，仅通过训练即可出现这种现象。

    May, 2023

  • ChatGPT 与媒体偏见的比较研究：GPT-3.5 和微调语言模型

    ChatGPT 的研究探索大型语言模型在媒体偏见检测方面的效力，结果显示 ChatGPT 在检测仇恨言论和文本级别上的情境偏见方面与精细调校的模型表现相当，但在其他偏见检测方面（包括虚假新闻、种族、性别和认知偏见）遇到困难。

    Mar, 2024

  • GPT 检测器对非母语英语写手有偏见

    本研究探讨了几种广泛使用的 GPT 检测器的性能，并以母语和非母语英语写作样本为例，发现这些检测器将非母语英语写作样本错误地识别为 AI 生成的内容，而将母语写作样本正确地识别，并且还证明了简单的提示策略可以减轻这种偏见并有效地规避非母语英语写作者的惩罚。我们的研究结果呼吁加强对部署 ChatGPT 内容检测器的伦理影响的广泛讨论，并警告在评估或教育背景下使用时，这些检测器可能会无意中惩罚或排除非母语英语的演讲者和作者。

    Apr, 2023

  • ChatGPT 的高维心理特征和文化偏见

    对 ChatGPT 进行了心理特征和文化价值的测量，发现其与真实人类存在差异，表现出文化偏见和刻板印象。未来的研究应加强技术监督和算法训练的透明性，促进跨文化交流和减少社会差异。

    May, 2024

  • ChatGPT 作为文本简化工具去除偏见

    对语言模型所训练的某些人群的特定语言信号的存在进行研究，发现这可能导致歧视。本文探讨一种减少偏见的可能技术，即简化文本，实验结果表明，对于简化的数据，预测敏感属性的分类器准确性下降了最多 17%。

    May, 2023

  • ChatGPT 的偏见是否应存在？大型语言模型中存在的偏见挑战和风险

    本文探讨大规模语言模型（如 ChatGPT）中固有偏见的挑战和风险，讨论其起源、伦理问题、缓解偏见的潜在机会、在虚拟助手、内容生成功能和聊天机器人中部署这些模型的意义以及如何鉴别、量化和缓解语言模型中的偏见，强调了需要跨学科的合作来开发更公正、透明和负责任的人工智能系统。

    Apr, 2023

  • 文本生成中的国籍偏见

    这篇论文分析了语言模型中的国籍偏见，探讨了 GPT-2 生成的故事中如何突出现有的有关国籍的社会偏见，并使用敏感性分析探讨了互联网用户数量和国家经济状况对故事情绪的影响。同时还研究了对抗触发的去偏置方法，研究结果表明，GPT-2 在对互联网用户较少的国家存在显著的偏见，而对抗触发方法可以有效地降低偏见。

    Feb, 2023

  • 不同语言中的典型偏见有多大差异？

    通过系统地分析使用不同语言、单语和多语模型、不同架构的偏向性，扩展了评估预训练英语语言模型中的刻板偏见的研究范围，发现在多语言环境下分析是非常重要的，并且公布了代码库以及翻译数据集的实用指南以鼓励将我们的工作进一步扩展到其他语言。

    Jul, 2023