Dec, 2019

候选融合：将语言模型集成到序列到序列手写词识别结构中

PDF
TL;DR本文提出了一种新颖的候选融合方式 (Candidate Fusion)，该方法在将外部语言模型集成到序列到序列架构中的同时，提供了来自外部语言模型的建议作为序列到序列识别器的新输入。Candidate Fusion 提供了两个改进，一方面，序列到序列识别器不仅可以将自身和语言模型的信息组合，还可以选择语言模型提供的信息的重要性。另一方面，外部语言模型可以适应训练语料库甚至学习识别器产生的最常见错误。通过全面实验，Candidate Fusion 证明在手写识别任务中优于现有的最先进的语言模型。
发现论文，激发创造
  • 从语言模型向序列到序列语音识别中迁移拼写知识：向教师学拼写

    本文提出了一种基于知识蒸馏的训练方法，将外部语言模型集成到序列到序列语音识别系统中，通过递归神经网络语言模型生成软标签来指导序列到序列模型的训练，以此来降低字符错误率。

    Jul, 2019

  • 将外部语言模型融入到序列到序列模型的分析

    本研究研究了基于注意力机制的序列到序列模型中对于浅层融合仿照外部语言模型在多种语言模型、不同的解码单元和不同任务下的一系列行为。在 Google 语音搜索中，我们证明使用基于字单位的神经语言模型和浅层融合可以相对于具有竞争力的注意力机制序列到序列模型将单词错误率降低了 9.1%，避免了需要进行第二遍 rescoring 操作。

    Dec, 2017

  • 冷融合：与语言模型一起训练 Seq2Seq 模型

    本文介绍了一种新的序列到序列 (Seq2Seq) 模型，即带有 Cold Fusion 方法的 Seq2Seq 模型，并将其应用于语音识别任务，表明该方法在利用语言信息方面表现良好。Seq2Seq 模型与 Cold Fusion 能够更好地利用语言信息，具有更快的收敛速度和更好的泛化效果，并且在使用少于 10% 的标记训练数据的同时，几乎完全转化到新的领域。

    Aug, 2017

  • 语言无关端到端自动语音识别的迁移学习与语言模型融合

    本文探讨了一种更好的适应低资源语言的方法，采用外部语言模型（LM）在转移学习框架下。通过在共享词汇表的统一序列到序列（S2S）架构中构建语言无关的 ASR 系统，并在整个适应阶段将外部 LM 集成到基于注意力的 S2S 模型的解码器网络中的 LM 融合转移来有效地融合目标语言的语言上下文。作者还研究了各种用于转移学习的种子模型。实验评估使用 IARPA BABEL 数据集表明，当外部文本数据可用时，LM 融合转移比简单转移学习改善了所有五种目标语言的性能。最终系统使混合系统的性能差距大大降低。

    Nov, 2018

  • 序列转序列模型中更好的解码和语言模型集成

    该研究分析了一个基于注意力机制的序列到序列语音识别系统，提出了解决其预测过于自信和产生不完整转录的问题的实用解决方案，并在没有语言模型的情况下，其词错误率为 10.6％，与 trigram 语言模型一起达到了 6.7％的词错误率。

    Dec, 2016

  • 改进神经机器翻译的语言模型集成

    本文探讨使用外部语言模型和针对内部隐式语言模型所采用的方法，在神经机器翻译任务中在线性融合语言模型方面的性能表现，发现考虑隐式语言模型可极大提高模型性能，但背向翻译仍然是最有效的方法。

    Jun, 2023

  • 终端到终端音频识别的声学模型融合

    最近在深度学习和自动语音识别（ASR）方面的进展使得端到端（E2E）ASR 系统成为可能，并且将准确性提升到一个新的水平。我们提出将外部的 AM 整合到 E2E 系统中，以更好地解决领域不匹配问题，并取得了显著的词错误率降低，尤其在增强命名实体识别方面效果明显。

    Oct, 2023

  • 基于流式递归神经网络转录器的神经语言模型融合改进

    本文提出了一种扩展技术，使 RNN-T 能够利用外部神经网络语言模型（NNLM），从而增强了 Librispeech 上 13-18％的相对词错误率，同时保持了系统的流畅性，灵活性和轻量性。

    Oct, 2020

  • 动态融合：用于神经机器翻译的注意力语言模型

    该研究采用动态融合机制，将翻译模型和语言模型结合，提高了英日机器翻译的 BLEU 和 RIBES 得分，并允许符合适当语法结构的预测性语言建模。

    Sep, 2019

  • 端到端 ASR 适应的即时文本检索

    本文提出一种在已有的 ASR 模型中添加检索语言模型，以直接从外部文本语料库中检索可能的完成语来改善模型性能，并使用适配器将这些完成语集成到后续的预测中，避免了重新训练的计算开销。该模型在问答数据集和特定领域命名实体识别等任务上表现均优于现有的浅层融合方法。

    Mar, 2023