Jun, 2022

语言模型偏置的序列到序列 ASR 系统上下文密度比率

PDF
TL;DR本文提出了一种上下文密度比方法，用于训练上下文感知的 E2E 模型和适应命名实体的语言模型，应用于医生和患者对话的 E2E ASR 系统中，相对基线提高了 46.5% 的命名实体识别率，超过了上下文浅融合基线 22.1% 的相对识别率，并且没有降低整个测试集的识别准确度。
发现论文，激发创造
  • 一种基于似然比的 E2E 模型领域自适应方法

    本研究提出了一种基于上下文偏差和似然比的方法，用于改善自然语言下的自动语音识别的效果。该方法以 1-Best 错误率为主要指标，在多个跨领域数据集上相对提高了 10％的识别正确率，同时也优化了 8-Best Oracle WER。

    Jan, 2022

  • 开放领域自适应循环神经网络转录技术

    这篇论文提出对 RNN-T 模型进行修改，以利用附带的元数据文本，从而改善对于命名实体词汇的识别，并在社交媒体视频数据集上取得了 16% 左右的提升。

    Jun, 2020

  • 基于后验分布适应的混合 CTC / 注意力系统的端到端上下文 ASR

    该研究针对 End-to-end 语音识别模型在识别罕见专有名词上性能较差的问题，提出了一种基于上下文偏置注意力的改进方案。该方案通过在注意力编码器解码器模型中添加上下文偏置注意力模块，使模型有能力识别上下文短语。在 GigaSpeech 数据集上的实验结果表明，该方法相比基线模型，提高了 15％至 28％的偏置短语召回率，并且拥有较强的反偏置能力。

    Feb, 2022

  • 基于类语言模型和令牌传递解码器的端到端语境语音识别

    本文针对上下文语音识别难以适应 E2E 自动语音识别的问题，提出了使用基于类别的语言模型及高效微调令牌传递解码器来提高性能。实验表明，该方法在不改变解码超参数的情况下，有效降低了上下文语音识别的字词错误率，并不影响普通语音识别的表现。

    Dec, 2018

  • 减少端到端语种混淆的自动语音识别

    本文基于等价约束理论提出了一种语言相关的注意机制，将单语数据转化为多语数据应用于端到端的自动语音识别中，获得了相对误差减少 17.12% 的优异性能。

    Jan, 2022

  • 密度比方法在端到端自动语音识别中的语言模型融合

    本文提出了一种基于密度比方法的外部语言模型集成到端到端语音识别模型的方法，应用于循环神经网络转录器（RNN-T）模型，通过模糊匹配在域 RNN-LM 和目标域 RNN-LM，使用贝叶斯定理为目标域定义 RNN - 后验，出色地解决了在有限数据和跨域情况下的语音识别问题。

    Feb, 2020

  • 具有有限数量丰富训练数据的端到端联合丰富和标准化 ASR

    比较了两种方法来训练具有有限数量的丰富标签数据的无状态变换器的端到端联合丰富和规范自动语音识别系统，其中第一种方法使用语言模型生成规范化训练数据的伪丰富转录，第二种方法使用单个解码器以输出类型为条件。第一种方法提供了更好的外域数据性能，相对误差减少了 9%。第二种方法展示了使用低至 5% 丰富训练数据的端到端联合丰富和规范自动语音识别系统的可行性，误差增加了 2.42% 绝对值。

    Nov, 2023

  • 基于流式端到端模型的大规模多语言语音识别

    本文介绍了一种使用条件向量和针对语言的适配器层结合的多语言端到端模型，取得了比单语言模型和传统模型都更低的语音识别误差率。

    Sep, 2019

  • 一种语言不可知的多语言流式本地化 ASR 系统

    本文提出了一种支持流式多语言的端到端自动语音识别的模型，通过编码端点模型和一个适用于语言混合的 End-of-Utterance Joint Layer，以及使用了更高效的 Embedding 解码器，实现了低延迟和高质量的效果，可以在移动设备上实时运行。

    Aug, 2022

  • 深度上下文：端到端的上下文语音识别

    本文提出了一种新颖的自动语音识别 (CLAS) 系统，它对上下文短语进行深层次融合，对 ASR 进行了联合优化，并且在测试阶段可以识别未知词汇，相对于传统的浅层融合方法，提高了 68% 的相对识别率。

    Aug, 2018