Jun, 2024

仅仅因为我们扎营，并不意味着我们应该这样做：模拟酷儿声音的伦理学

PDF
TL;DR语音克隆模型能否准确捕捉到 “同性恋语音” 并引发辩论，因合成音频距离实际同性恋说话人的语音风格越来越远，导致辨别度下降，而对于控制组则有相反的影响。然而，改进这类模型的能力涉及很多风险，并引发对建模酷儿语音伦理道德性的讨论。采集 “干净” 的酷儿数据存在安全和公平上的问题，相关技术可能带来从嘲笑到死亡的伤害。
发现论文，激发创造
  • 語言模型在有害言論檢測中表現出性別流？言論偏見

    对社交媒体平台上的内容审查进行分析，研究其对性别多元化言语模式的偏见，并提出五个现成的语言模型在评估这些文本的伤害程度时的性能评估。

    May, 2024

  • QueerBench：度量语言模型对酷儿身份的歧视

    通过使用我们的新评估框架 QueerBench，本文评估了英语大语言模型（LLMs）生成的句子完成对 LGBTQIA + 个体可能造成的潜在危害，并表明大型语言模型在对 LGBTQIA + 社群中的个体表现出更频繁的歧视行为，使得 QueerBench 有害性得分在 7.2% 的差距内增加。

    Jun, 2024

  • 酷儿人是人，首先是人：解构大型语言模型中的性取向刻板印象

    LLMs 生成的文本存在社会偏见，本文通过情感分数打分分析，证明了 LLMs 生成文本存在性少数群体偏见，并展示了一种基于 SHAP 分析的启发式方法来减轻性少数群体偏见的方法

    Jun, 2023

  • 一种新的声音真实性方法

    声音伪造，驱动主要是最近文本到语音合成技术的进展，对社会提出了重大挑战。我们主张从传统的二元范式即声音是 “真实” 或 “伪造” 进行观念转变，而将重点放在定位 “声音编辑” 上，这包括传统的修改、过滤和剪辑，以及文本到语音合成和语音变换系统。我们提出了六个类别，并策划了一个基于 M-AILABS 语料库的新挑战数据集，并提供了基线检测系统。我们认为，仅将声音分类为真实或伪造是一种危险的过度简化，将不能推动语音技术领域的发展。

    Feb, 2024

  • 文本 - 图像模型对非二元性别身份的（误）表征：刻板印象与淫秽

    本文旨在研究多模态模型处理不同性别认同的表现，发现某些非传统性别的个体被（误）刻画为不够人性化、更具刻板印象和性化。同时，受访者特别关注描绘的准确性，呼吁采用策展训练数据和定制化等改进措施，实现社区更广泛的参与和更积极的进步。

    May, 2023

  • 朝 WinoQueer 迈进：开发基于大型语言模型的反同性恋偏见基准

    本文探究大型语言模型（LLMs）（如 BERT）中是否存在反对酷儿和跨性别者的偏见，并提出一种通过对酷儿社区撰写或关于酷儿社区的数据对模型进行微调以减少这些偏差的方法。通过引入新的基准数据集 WinoQueer，我们发现 BERT 存在明显的反同性恋偏见，但是通过在 LGBTQ + 成员编写的自然语言语料库上进行微调，这种偏见可以得到大部分缓解。

    Jun, 2022

  • 非我的声音！言语生成器的伦理和安全危害分类

    通过分析语音生成事件，我们提出了一个模型 AI 伦理和安全风险路径的概念框架，该框架可用于开发语音生成器的伤害分类法，并支持相应的政策干预和决策制定。

    Jan, 2024

  • 一而多：使用语言模型模拟人类样本

    本文探讨利用语言模型作为特定人群的有效代理来进行社会科学研究的可能性，并提出算法保真度的概念，通过对 GPT-3 语言模型进行多层面和微粒度的统计和分析，揭示了其中的 “算法偏差” 不是均质的，而是有人口学相关性的。作者通过调节模型条件，成为可以精确模拟大量人讨论或表达的回应情况的一种工具，这为理解人类思想、态度和文化背景提供了一种全新且强大的方法。

    Sep, 2022

  • 生成音频模型的伦理学意义：系统文献综述

    研究发现生成音频模型研究中缺乏关注其潜在的负面影响和道德伦理问题，本文通过对 884 篇文献的系统文献综述，指出可能引发欺诈、深度伪造和版权侵犯等伦理问题需要重视。

    Jul, 2023

  • 清理语言模型风险边缘化少数群体声音

    本文研究了使用 LM 模型在 marginalized groups 中的应用，发现目前已有的毒性去除技术会降低模型在 marginalized groups 语言中的效用，因为这些技术削弱了 LM 模型的抗分布转移能力，导致各种失败。

    Apr, 2021