Jun, 2024

自动语音识别的动态数据修剪

PDF
TL;DR本研究首次探索了自动语音识别领域中的动态数据修剪方法（DDP-ASR），通过动态选择 70％的数据，实现了与全部数据训练相当的性能，同时为语音相关数据集提供了细粒度的修剪选择，节省了高达 1.6 倍的训练时间。
automatic speech recognitiondata pruningtraining datadynamic data pruningddp-asr
发现论文，激发创造
  • 自动语音识别的动态稀疏神经网络

    本文介绍了动态稀疏神经网络 (DSNN) 技术，该技术能够在训练后根据需要在运行时即时切换到任何预定义的稀疏度配置，有效地解决了自动语音识别 (ASR) 等场景中硬件资源限制和延迟要求不同的问题，实验结果表明，DSNN 模型的表现与单一稀疏度网络的表现相当。

    May, 2020

  • 动态 ASR 路径：多语音 ASR 模型高效剪枝的自适应遮罩方法

    本文提出了一种自适应掩蔽方法，用于高效地修剪多语言自动语音识别模型，并展示了该方法在目标为稀疏的单语言模型时的优势，同时减少了语言特定修剪的需求。

    Sep, 2023

  • 高效自动语音识别的精准结构化剪枝

    本论文提出了一种新的压缩策略，利用结构剪枝和知识蒸馏来减小 Conformer 模型的模型大小和推理成本，同时保持高识别性能。该方法优于所有剪枝基线，在 LibriSpeech 基准测试中实现了 50％的模型大小减少和 28％的推理成本减少，同时最小化了性能损失。

    May, 2023

  • 神经语言模型修剪用于自动语音识别

    我们研究了应用于基于 Transformer 的语音识别神经网络语言模型的模型修剪方法。我们探究了修剪框架的三个方面，即准则、方法和调度器，分析了它们在准确性和推理速度方面的贡献。除此之外，我们提出了一种适用于渐进式压缩模型、并可以交付多个具有不同目标尺寸的模型的低秩逼近的变体。我们的研究结果包括：a）在多种场景中，数据驱动的修剪效果优于基于幅度的修剪；b）渐进式修剪相比一次性修剪在准确性方面有更好的表现，特别是在目标尺寸较小时；c）对于中等压缩程度，低秩逼近提供了尺寸减小和推理加速之间的最佳平衡。

    Oct, 2023

  • 数据饮食中的 NLU: 动态数据子集选择用于 NLP 分类任务

    本研究提出了一种基于动态数据修剪的方法，使用 EL2N 度量和初始微调阶段，在保持完整准确性的同时，可将数据量减少 50%~80% 以大大减少微调时间，并在 GLUE 基准测试和四个联合 NLU 数据集上展现出更好的时间 - 准确性平衡。

    Jun, 2023

  • 利用数据增强提高低资源语音识别的准确性

    研究发现，利用自训练及文本转语音增广训练数据可以有效提高低资源语种的 ASR 性能，为解决数据稀缺问题提供了一种高效解决方案。

    May, 2023

  • 联邦剪枝：利用联邦学习提高神经网络的效率

    提出了基于联邦式剪枝的方法，以在维持相似性能的同时，在联邦学习的环境下训练模型并解决自动语音识别模型所面临的诸多难点，如隐私问题、计算和通信资源等。

    Sep, 2022

  • 数据精简框架：提升模型性能和效率的端到端自适应数据精简

    AdaPruner 是一种自适应数据集修剪框架，通过消除冗余的训练样本和减少计算和内存开销来提高模型性能和效率，可以在无需显式定义度量标准的情况下有效地修剪数据集并进行模型微调，展现了高可伸缩性和兼容性，并在修剪了训练数据的情况下显著提高了模型性能，同时节省了存储和计算成本。

    Dec, 2023

  • 公开数据的语音增强是否有助于构建鲁棒的语音识别系统？

    本研究旨在研究使用公开的噪声数据训练自动语音识别（ASR）系统的可行性，并发现使用语音增强技术进行数据清理后训练 ASR 系统比仅使用噪声数据和纯净数据训练 ASR 系统分别提高了 9.5％和 9％的单词错误率，其表现与噪声数据和纯净数据训练的理想情况相当。

    Oct, 2019

  • 关键学习时期：利用早期训练动态进行高效数据修剪

    我们提出了一种新的数据修剪技术：Checkpoints Across Time (CAT)，通过利用早期模型训练动态来识别对模型性能最相关的数据点，实现了在减少 50% 的训练数据的同时，与使用完整数据集的性能相当，且优于其他数据修剪技术。

    May, 2024