Jun, 2024

希腊播客语料库：用弱监督数据训练低资源语言的竞争性语音模型

PDF
TL;DR通过使用弱监督方法构建大规模语料库，本研究在语音技术方面证实了通过增加数据量和模型规模来提高 ASR 性能的成效，进一步推动了资源匮乏语言的语音技术发展。
speech technologieslanguages with limited digital representationdata scarcityweak supervisionmodern greek
发现论文，激发创造
  • 大规模弱监督进行稳健语音识别

    研究了训练简单的语音处理系统预测互联网音频大量转录的能力，在 680,000 小时的多语言和多任务监督的基础上，生成的模型具有很好的泛化能力，并且通常与之前的完全监督结果竞争，但在零次传输设置下不需要进行任何微调，与人类相比，模型的准确性和稳健性接近，并且同时发布了模型和推理代码，作为进一步稳健语音处理工作的基础。

    Dec, 2022

  • 通过欧盟辩论自动语音识别进行政治语料库创建

    本文提出了一个欧盟议会 LIBE 委员会的书面语料库，总计 3.6 百万字。在实验过程中，我们使用基于 transformer 的 Wav2vec2.0 模型作为自动语音识别（ASR）流程的基础，并尝试了多个音频模型，语言模型和特定领域术语的添加来适应领域。结果表明，特定领域的音频模型和语言模型显着提高了 ASR 输出的质量，将错误率从 28.22 降至 17.95，并对下游分析任务有用。

    Apr, 2023

  • 现代希腊语语音识别无监督域自适应的样本效率研究

    本文提出了基于源域自监督的 M2DS2 策略用于大型预训练语音模型的微调，并在希腊语 ASR 系统中测试表现，结果显示相比其他基准线算法，M2DS2 在跨域适应中具有显著优势。

    Dec, 2022

  • 利用数据增强提高低资源语音识别的准确性

    研究发现，利用自训练及文本转语音增广训练数据可以有效提高低资源语种的 ASR 性能，为解决数据稀缺问题提供了一种高效解决方案。

    May, 2023

  • GigaSpeech 2：用于低资源语种的演进、大规模、多领域的 ASR 语料库的自动爬取、转写和优化

    这篇论文介绍了 GigaSpeech 2，一个为低资源语言设计的大规模、多领域、多语种的语音识别语料库，它不依赖于配对的语音和文本数据。该论文还介绍了一个自动化的数据爬取、转录和标签优化流程，以及通过修改的 Noisy Student Training 来进一步提高模型性能。实验结果证明了该语料库高质量和广泛适用性，并且相比于 Whisper large-v3 模型，基于 GigaSpeech 2 训练的 ASR 模型在泰语、印尼语和越南语的测试集上可以将词错误率降低 25% 至 40%。同时，与商业服务相比，基于 GigaSpeech 2 训练的 ASR 模型也能取得更好的性能。我们相信我们引入的语料库和流程将为低资源语音识别开辟新的研究途径并极大地促进该领域的研究。

    Jun, 2024

  • 计算语言学文档实验用的极低资源语音语料库

    这篇论文介绍了一个收集自非洲 Bantu C25 语族中的一种语言 Mboshi 的语音语料库，在几乎零的资源条件下构建了该语料库，并利用其中的数据完成了口语术语发现。该论文讨论了如何收集，清理和处理数据，并将该数据集提供给社区进行可重现的计算语言文献研究和评估。

    Oct, 2017

  • 利用支持性文本数据启动有限转录的自动语音识别系统开发

    本文研究发现，使用不同数量的文本数据进行训练和 fine-tune transformer model 可以降低自动语音识别（ASR）的 word error rate，其中 lexicon 对于改善 ASR 性能没有多大作用，而使用必要量的文本数据可以通过利用自然语言处理技术使自动语音识别接近人类的水平。

    Feb, 2023

  • MSR-86K：一个包含 86,300 小时语音转换文本的多语种演变语料库，用于语音识别研究

    该论文介绍了 MSR-86K，这是一个逐渐增长的大规模多语言语音识别研究语料库，由 YouTube 上公开可访问的视频转录数据组成，包括 15 种语言和总共 86300 小时的 ASR 数据。同时，该论文还介绍了如何使用 MSR-86K 语料库和其他开源语料库来训练一个与 Whisper 相媲美的强大的多语言语音识别模型。我们将在 HuggingFace 上公开发布 MSR-86K，相信这样一个大规模的语料库将为多语言语音识别的研究开辟新的道路。

    Jun, 2024

  • 低资源语言的音标丰富语料构建

    本研究介绍了一种用于创建巴西葡萄牙语语音覆盖度广泛的语音语料库的新方法，并提出了基于声音 - 口型语音特征的新的音素分类方法，通过使用该算法，我们使得与目前可用的语音丰富语料库相比，一种样本中不同音素的百分比增加了 55.8％。

    Feb, 2024

  • 启用低资源语言的 ASR：一个全面的数据集创建方法

    本研究介绍了一种用于从有声读物生成 ASR 训练数据集的新型流程，以应对资源稀缺语言中自动语音识别系统性能较差的问题。该方法通过有效地对齐音频和相应的文本，并将其分割成适合 ASR 训练的长度，简化了资源稀缺语言中 ASR 系统的数据准备工作，并通过对亚美尼亚语的案例研究证明了其应用价值。这种方法可以适用于许多资源稀缺语言，不仅解决了数据匮乏问题，还提高了低资源语言的 ASR 模型性能。

    Jun, 2024