Mar, 2023

非正式对话 v2 数据集

PDF
TL;DR本研究介绍了一个数据集，有助于评估算法偏见和计算机视觉和语音模型在 11 个属性方面的鲁棒性。数据集包括来自巴西、印度、印度尼西亚、墨西哥、越南、菲律宾和美国的 26,467 个视频。参与者同意将其数据用于评估 AI 模型的公平性并提供了多种人口统计学信息。
algorithmic biascomputer visionaudio speech modelsdatasetfairness
发现论文，激发创造
  • 评估人工智能公正性的探索：Casual Conversations 数据集

    介绍了一个新的数据集，包含跨年龄、性别、肤色和环境光条件的多样性，用于帮助研究者评估他们的计算机视觉和音频模型的准确性。此数据集可广泛应用于评估图像、音频等多个领域的应用。

    Apr, 2021

  • 衡量语音识别公平性的探索：非正式会话数据集转录

    本研究在自动语音识别系统领域对 “Casual Conversations” 进行了研究，发现了多个模型在性别和肤色方面存在显著的词错误率差异。此外，研究呼吁社区开发各种技术以减少这些统计偏差。

    Nov, 2021

  • Casual Conversations v2: 设计一个大型的基于同意的数据集，用于测量算法偏差和鲁棒性

    本文提供了一个设计分类和子分类的方法，以便收集一个全面的数据集，以用于测试和开发鲁棒和公平的 AI 系统。

    Nov, 2022

  • Sonos 语音控制偏倚评估数据集：语音助手中人口统计偏倚评估的方法论

    该研究引入了 Sonos Voice Control Bias Assessment Dataset，一个包含控制人口统计学标签的大型数据集，通过针对音乐领域的语音助手请求（1,038 名说话者，166 小时，170k 音频样本，9,040 个唯一标记的转录文本）进行了控制人口统计多样性（性别、年龄、方言区域和种族）。研究还提出了一种统计的人口统计偏见评估方法，适用于这种特定的用例，并利用口语理解度量标准而非转录准确性，我们认为后者更能代表用户体验。通过考虑一对最先进的自动语音识别和口语理解模型，展示了该数据集和统计方法检测人口统计偏见的能力。结果表明在年龄、方言区域和种族之间性能存在统计上显著差异。多变量测试对于阐明方言区域、性别和年龄之间的混合效应至关重要。

    May, 2024

  • 未经筛选的图像 - 文本数据集：揭示人口特征偏见

    我们研究了在视觉和语言模型训练中使用大型未筛选数据集的不公平表现，以及如何应对这个问题，研究发现社会偏见在图像生成、图像描述和图像文本嵌入等视觉语言任务中都是一个持续而普遍的问题。

    Apr, 2023

  • 自动驾驶可视数据集的属性注释与偏差评估

    本研究关注在自动驾驶领域中经常被忽视的公平问题，特别是在基于视觉感知和预测系统方面，这对自动驾驶车辆的整体运行起着至关重要的作用。我们重点分析了用于训练人和车辆检测系统的一些常用视觉数据集中存在的偏见。我们引入了一种注释方法和一种专门的注释工具，旨在对视觉数据集中的属性进行注释。通过评估一致性和属性在所有数据集中的分布，我们验证了我们的方法。这些属性包括年龄、性别、肤色、群体以及超过 90K 人的交通方式和超过 50K 辆车的车辆类型、颜色和车型的注释。大多数属性的多样性非常低，分析的数据集中某些群体，如儿童、轮椅使用者或个人机动车辆使用者，极度缺乏代表性。本研究在评估自动驾驶车辆感知和预测系统中考虑公平性方面做出了重要贡献。本文遵循可重复性原则，注释工具、脚本和注释属性可公开访问。

    Dec, 2023

  • VoxCeleb：一个大规模的说话人识别数据集

    本文介绍了一种基于计算机视觉技术的全自动管道，用于从开源媒体中创建一个大规模的必须文本无关语音识别数据集，并在其上应用和比较不同的演讲者识别技术以建立性能基线。

    Jun, 2017

  • VoxLingua107：一个口语识别数据集

    本文研究了利用网络音频数据自动识别口语语言的任务。通过从特定语言的 Wikipedia 数据中生成半随机搜索短语，并从 YouTube 中检索视频来提取具有语音的视频片段，并使用语音活动检测和说话人分离提取包含语音的视频片段，最终构建了可用于多种口语识别任务的语言识别模型，自动检索的数据结果优于使用手工标记的专有数据集。

    Nov, 2020

  • FairFace: 面部属性数据集，平衡种族、性别和年龄

    本研究构建了一个包含 108,501 张图像的人脸图像数据集，强调数据集的平衡种族构成，通过对基于此数据集训练模型和评估性能的实验，发现模型的准确性较高且与种族和性别无关。

    Aug, 2019

  • 多媒体社交分析的数据集和基准测试

    该论文介绍了一个通过从社交媒体网站获取包含多个成对图像 / 视频和文本的帖子以及包含图像 / 视频和 / 或文本的评论树来实现多模态学习的新的可公开获取的数据集，并提供了基线性能分析，适用于图像字幕、情感分析和预训练模型等多项任务。

    Jun, 2020