EMNLPSep, 2021

数据集：自然语言处理社区的共享库

PDF
TL;DR该研究论文探讨了一个名为 Datasets 的 NLP 数据集库，旨在通过标准化终端用户接口、版本控制和文档，为 NLP 研究人员提供一个小型数据集至互联网规模文集均能使用的轻量级前端，并采用分布式、社区驱动的方法添加数据集和记录使用情况。经过一年的发展，在该库中已经包含超过 650 个独特的数据集，有 250 多名贡献者，并帮助支持了一系列新颖的交叉数据集研究项目和共享任务。
发现论文，激发创造
  • 大型语言模型的数据集：综述

    该研究论文对大型语言模型数据集进行了综述和分类，包括预训练语料库、微调数据集、偏好数据集、评估数据集和传统自然语言处理数据集等五个方面；此外还提供了现有数据集资源的综合评估，涵盖 8 个语言类别和 32 个领域，包括来自 444 个数据集的统计信息，共计超过 774.5 TB 的预训练语料库数据和 7 亿个实例的其他数据集数据；旨在为研究人员提供整个 LLM 文本数据集的全貌，并为未来的研究做出贡献。

    Feb, 2024

  • 跨语言数据集构建与必要资源的综述

    该研究旨在量化语言资源之间的不平等性，并提出一些方法来改善低资源语言的数据收集，以促进未来的多语言数据发展。

    Nov, 2022

  • 数据集地理：将语言数据映射到语言使用者

    研究了自然语言处理中数据可用性对现代 NLP 系统质量的影响，使用实体识别和链接系统，观察了它们的跨语言一致性，并探讨了解释观察到的数据集分布的地理和经济因素。

    Dec, 2021

  • 揭示 2022 年 ACL 和 EMNLP 会议数据集的趋势

    自从采用 Transformer 架构以来，自然语言处理（NLP）已经显著发展。Transformers 催生了预训练大型语言模型（PLMs）。在多个任务中，NLP 系统的性能有了巨大提升，有些情况下甚至超过了人类。然而，事实仍然是，在预训练时，更好质量的数据集能够让 PLMs 在各个任务中取得更好的性能。为了满足特定需求，NLP 研究者继续创建新的数据集，而本研究旨在揭示这些数据集中所挖掘的趋势和见解，并向未来有意策划数据集的研究者提供有价值的建议。

    Mar, 2024

  • BigBIO: 用于数据中心的生物医学自然语言处理框架

    我们介绍了 BigBIO 项目，这是一个包含 126 个以上生物医学 NLP 数据集的社区库，可用于训练和评估语言模型，其数据集的元数据和编程访问支持元数据集合的构建，并且支持 End-to-End 的零样本任务。

    Jun, 2022

  • 描述机器学习数据集的领域特定语言

    该论文提出了一种具有社会关注的领域特定语言来描述机器学习数据集的结构以及数据出处的新方法，这将促进任何机器学习倡议来利用和从机器学习的数据中获益。

    Jul, 2022

  • MLS: 一个大规模的多语言语音研究数据集

    本文介绍了 Multilingual LibriSpeech（MLS）数据集，这是一个大型的多语言语音研究语料库，包括 8 种语言，以及相应语言模型和基线自动语音识别模型。该数据集将在 http URL 上免费提供，我们相信它将为 ASR 和 TTS 研究开辟新的途径。

    Dec, 2020

  • 神奇的数据及如何查询它们

    本文介绍了一个用于不同数据集整合和查询的统一框架，并在计算机视觉数据集中展示了其在不同情景下的优势。

    Jan, 2022

  • 基于通用语言模型的非英语医学自然语言处理注释数据集构建

    介绍了如何利用预训练语言模型提升非英语医学文本处理的 NLP 任务效率和数据集命中率，并且用我们的方法在德语文本上训练了一个医学 NER 模型 GPTNERMED。

    Aug, 2022

  • 社交智能数据基础设施：构建现在和引领未来

    针对自然语言处理（NLP）系统越来越多地融入人类社会生活的现状，本研究构建了一个综合的社交 AI 数据基础设施，包括全面的社交 AI 分类法和 480 个 NLP 数据集的数据库，以便分析现有的数据集工作，并评估语言模型在不同社交智能方面的性能，为未来数据集开发提供全面的视角和指导。

    Feb, 2024