May, 2023

基于分解神经传输器的外部语言模型集成

PDF
TL;DR本文提出一种基于外部语言模型的分解神经传输器（FNT）适应方法，通过浅层融合和基于类别的 n-gram 语言模型的集成，取得了最高 60% WERR 的新增收益。
factorized neural transducersexternal language modelsshallow fusionclass-based n-gram language modelslexical adaptation
发现论文，激发创造
  • 文本领域适应的改进因式化神经转导模型

    通过设立独立语料库解码器预测词汇，改进因式神经变换器（IFNT）模型结构综合整合声学和语言信息，实现有效的文本适应，并在实验中展现了相对于标准神经变换器与浅层融合模型的 7.9% 至 28.5% 的相对词误率改善和相对于 FNT 模型的 1.6% 至 8.2% 的词误率降低。

    Sep, 2023

  • 用于端到端语音识别模型的文本适应的快速准确因式分解神经转录器

    介绍了因文本数据处理能力有限而提出的 FNT 模型及其在语音识别领域中的存在意义，并提出了多种方法来优化模型性能，使用这些方法后，相比于标准 FNT 模型，模型的错误率下降了 9.48%。

    Dec, 2022

  • 在分解神经传输器中融入基于类别的语言模型的命名实体识别

    为了提高端到端模型中的实体识别能力，本研究将基于类别的语言模型应用于因式分解的神经递归式转录器（FNT）中，取得显著的实体识别误差降低。

    Sep, 2023

  • 分解转导模型的有效内部语言模型训练和融合

    基于因子化转导模型的新型内部语言模型 (ILM) 训练和解码策略，在 LibriSpeech 数据集上相对于标准解码方法获得了 17% 的相对改进，并与外部语言模型融合强化的强 RNN-T 基线相比，在一般集上获得了 5.5% 的相对改进和对于罕见单词的 8.9% WER 降低。该模型在无需依赖外部语言模型的情况下，达到了优秀的性能，非常适用于生产用例，并提出了一种新颖且内存高效的 ILM 融合意识的最小词误差率 (MWER) 训练方法来进一步提升性能。

    Apr, 2024

  • 基于因式分解神经传输器的长篇语音识别

    提出一种名为 LongFNT 的架构，通过融合句子级别和标记级别的长时序特征和预训练的 RoBERTa 上下文编码器，扩展了长段音频输入的自动语音识别模型，显著降低了字错率。

    Nov, 2022

  • 通过生成多个语言因素的神经机器翻译

    论文提出基于神经网络模型输出端单词的形态和语法分解（因子）的分步神经机器翻译（FNMT），解决了机器翻译中目标语言词汇量和未知词汇数产生的问题。在 IWSLT'15 英法任务中，FNMT 模型表现优异，达到了与基于单词和基于 BPE 的神经机器翻译系统在 BLEU 和 METEOR 等质量评估指标上相当的效果。

    Dec, 2017

  • 基于流式递归神经网络转录器的神经语言模型融合改进

    本文提出了一种扩展技术，使 RNN-T 能够利用外部神经网络语言模型（NNLM），从而增强了 Librispeech 上 13-18％的相对词错误率，同时保持了系统的流畅性，灵活性和轻量性。

    Oct, 2020

  • 分解式神经机器翻译

    本文提出了一种基于形态和语法分解的神经机器翻译方法，可以更好地处理庞大的目标语言词汇以及未登录词，实验结果显示该方法不仅可以降低 OOV 词比例，而且在模拟跨领域翻译方面也有出色表现。

    Sep, 2016

  • 面向端到端语音识别的神经 FST 类语言模型

    提出了一种新方法 -- 神经 - FST 级语言模型（NFCLM），它将神经网络语言模型（NNLM）和有限状态转换器（FST）结合起来用于端到端语音识别，这种方法通过背景 NNLM 模拟通用背景文本和称为 FST 的一系列特定领域实体 。

    Jan, 2022

  • 改进神经机器翻译的语言模型集成

    本文探讨使用外部语言模型和针对内部隐式语言模型所采用的方法，在神经机器翻译任务中在线性融合语言模型方面的性能表现，发现考虑隐式语言模型可极大提高模型性能，但背向翻译仍然是最有效的方法。

    Jun, 2023