May, 2023

Taxi1500：1500 种语言文本分类的多语言数据集

PDF
TL;DR通过并行翻译圣经来开发广泛的主题，并利用众包工具收集标记数据，标注英文端的数据，并通过已对齐的诗句将标签映射到其他语言，从而为 1500 多种语言生成文本分类数据集，并对多个现有的多语言语言模型进行广泛基准测试。
natural language processingtext classificationlow-resource languagesmultilingual language modelsdataset creation
发现论文，激发创造
  • Tatoeba 翻译挑战：低资源和多语言 MT 的现实数据集

    本文介绍了一种新的机器翻译基准，为超过 500 种语言的数千种语言对提供了训练和测试数据，并提供了从该集合创建最先进的翻译模型的工具，旨在促进开放翻译工具和具有更广泛语言覆盖范围的模型的发展。

    Oct, 2020

  • 一个阿姆哈拉语新闻文本分类数据集

    研究介绍了一个由超过 50,000 篇新闻文章组成、分为 6 类的阿姆哈拉文本分类数据集，并提供基准性能以促进相关研究和实验的实施。

    Mar, 2021

  • 跨语言数据集构建与必要资源的综述

    该研究旨在量化语言资源之间的不平等性，并提出一些方法来改善低资源语言的数据收集，以促进未来的多语言数据发展。

    Nov, 2022

  • PrOnto: 对 859 种语言的语言模型评估

    该论文提出了一种新的评估数据集创建方法，将英语 New Testament OntoNotes 数据库中的数据与其他语言中的 New Testament 翻译进行对齐，在无需手动注释的情况下将注释从英语映射到目标语言，以创建适用于预训练语言模型评估的套件。作者在 859 种语言中应用了这种方法，共创建了 1051 个数据集，并证明了这种方法创建的评估任务可以评估语言模型的质量。

    May, 2023

  • 一份高质量的多语言结构化文档翻译数据集

    本文针对结构化文本本地化的研究，提出了一种高质量的多语种数据集，并构建和评估了针对七种目标语言的翻译模型，实验结果表明，使用 XML 标签可以提高翻译精确度。

    Jun, 2020

  • 通用跨语言文本分类

    通过优化现有标签 / 数据集，将不同语言的标签数据与训练相结合，以创建一个通用模型，从而增强标签和语言范围，实现跨语言的文本分类。

    Jun, 2024

  • 多语言到英语机器翻译工具、数据和预训练模型

    本文提出三种工具：MTData、NLCodec 和 RTG，设计一个能够从 500 种源语言翻译成英语的多语言神经机器翻译模型，支持语言种类很多，且模型容易下载和使用。

    Apr, 2021

  • 多语言聊天数据集：Tagengo

    我们提供了一个高质量的数据集，包含 74 种语言中的超过 70k 个提示 - 回应对，用于训练最先进的开源英语语言模型，以实现多语言对话。在 6 种语言的 MT-Bench 对话基准测试中，我们的多语言模型优于先前的开源语言模型。此外，我们发现在更多多语言数据上进行训练有助于比仅仅在特定语言的数据上进行训练（如日语），从而提高性能。这些结果表明，在大量高质量多语言数据的训练下，实现更易用的语言模型变得必要。

    May, 2024

  • SIB-200：一个简单、包容和大规模的 200 + 种语言和方言的主题分类评估数据集

    我们创建了一个大规模的开源基准数据集 SIB-200，用于解决自然语言理解方面缺乏评估数据集的问题，并在全监督、跨语言迁移和大型语言模型等多个环境中评估，结果显示在众多世界语言中，高资源语言和低资源语言之间仍存在很大差距。我们的研究表明，缺乏预训练多语言语言模型的语言、少数语言家族以及来自非洲、美洲、大洋洲和东南亚地区的语言通常在主题分类数据集上表现最差。希望我们的数据集能鼓励对更多种类语言进行多语言语言模型的包容性评估。

    Sep, 2023

  • MasakhaNEWS：面向非洲语言的新闻主题分类

    该论文提出了 MasakhaNEWS 数据集来支持在 16 种非洲语言上的新闻主题分类研究，并探索了多种机器学习方法以支持零样本和少样本学习。通过使用 ChatGPT 等技术实现了在低资源非洲语言中进行新闻主题分类任务，能够在零样本情况下实现平均 F1 得分 70，利用 PET 方法，10 个样本即可实现较好的效果。

    Apr, 2023