rnn-transducer | BriefGPT - AI 论文速递

关键词rnn-transducer

搜索结果 - 9

关于内部语言模型与序列判别式训练在神经传达器中的关系
内部语言模型减法与序列鉴别训练在语音识别中表现类似，通过实证研究证明二者性能相近，同时了解序列鉴别训练对常用零编码器内部语言模型估计产生极小影响，但对包括内部语言模型和空白抑制的编码器和预测 + 联合网络的后验概率重整具有联合效应。
PDF9 months ago
联合预测符号和持续时间实现高效的序列转换
介绍了一种用于序列到序列任务的新型 Token-and-Duration Transducer (TDT) 框架，该框架通过联合预测令牌及其持续时间来扩展传统的 RNN-Transducer 架构，可以提高序列传导任务上的准确性和推断速度。
PDFa year ago
RNN-Transducer 损失函数的强大可扩展 WFST 框架
本文提出了一种基于 WFST 框架的 RNN-T 损失简化开发的方案，并介绍了两种基于 WFST 的 RNN-T 实现，通过引入 W-RNNT 损失的示例说明了可扩展性优势，最终展示了 NeMo 工具包中所有实现的 RNN-T 损失。
PDFa year ago
基于剪枝的 RNN-T 模型进行快速、高效的自动语音识别训练
该论文介绍了一种更快，更节省内存的 RNN-T 损失计算方法，用于提高语音识别系统的计算速度和效率。
PDF2 years ago
语音识别神经转换器的高效训练
本文提出一个高效的 3 阶段渐进训练管道，能够快速利用有限的计算资源训练出接近最新成果性能的转录模型，证明了每个阶段的有效性，并在 Librispeech 和 Switchboard 训练语料库上进行了实验证明。
PDF2 years ago
RNN-Transducer 基于采样 softmax 的高效内存训练
本文提出了使用采样 softmax 算法减少 RNN-Transducer 在训练过程中的内存消耗，并基于辅助 CTC losses 分布进行 sampling vocabulary 来提高模型准确性，在 LibriSpeech、AISHE
PDF2 years ago
基于语言模型整合的传声器语音识别的实证研究
在端到端的 RNN-Transducer（RNN-T）中使用仅文本数据是具有挑战性的，本文研究了使用密度比和内部语言模型（ILM）估计的方法来将外部语言模型（ELM）集成到 RNN-T 中以实现语音识别，并提出了一种低阶密度比方法（LODR
PDF2 years ago
RNN-Transducers 中的隐式语言模型自适应贴现
本文针对 RNN-T 在稀有词识别中的性能下降问题，提出了一种轻量级自适应 LM 折扣技术 AdaptLMD，通过在内部语言模型中动态选择性折扣，随机掩盖预测网络输出等方法，比较基准模型，相对于会话式的代码混合 Hindi - 英语 ASR
PDF2 years ago
RNN-Transducer 模型的高效知识蒸馏
本文提出了一种针对 RNN-Transducer 模型的知识蒸馏方法，通过对模型剪枝的过程结合知识蒸馏，实现了对小型模型精度的提高。实验结果表明，通过此方法可以在多种数据集上获得较好的性能提升。
PDF4 years ago