Oct, 2020

基于注意力机制的序列到序列模型语音识别置信度估计

PDF
TL;DR本文探讨如何使用语音识别器的置信度得分来评估转录质量，提出了一种名为信心估计模块（CEM）的轻量化且有效的方法来解决端到端模型的过度置信问题，并发现 CEM 能潜在地改善半监督学习等下游任务。
automatic speech recognitionconfidence scoresend-to-end modelscemsemi-supervised learning
发现论文，激发创造
  • 基于非自回归端到端语音识别系统的准确可靠置信度估计

    这篇论文提出了 CIF-Aligned 的置信度估计模型（CA-CEM），并使用 Paraformer 实现了精确可靠的置信度估计，最终在 AUC、RMSE、ECE-U 等多个指标上获得显著改进。

    May, 2023

  • 基于 BLSTM 的端到端语音识别置信度估计

    本研究利用双向长短时记忆（BLSTM）模型进行自动语音识别（ASR）中的可信度估计，通过利用多种 ASR 解码得分作为辅助特征，该模型在高度不平衡的情况下稳定展现出高可信度估计表现，并且大幅优于基于 Transformer 的可信度估计模型。

    Dec, 2023

  • 神经语义分析的置信度建模

    本研究致力于神经语义分析器的置信度建模，设计了各种度量标准来估计置信分数和确定哪些输入因素会导致不确定的预测，结论表明我们的模型显著优于传统方法并且提高了模型解释的质量。

    May, 2018

  • 通过置信度放宽增强 ASR 解码

    该论文提出了一种解码过程，改进了现有的基于 beam search 的自动语音识别系统中的缺陷，特别是针对最近提出的自监督学习（SSL）模型中高度自信的预测所带来的问题，并且不需要额外的训练以及模型参数，并且在低资源场景中实现了一致的改进。

    Dec, 2022

  • TeLeS: 用于估计端到端自动语音识别的时间词汇相似度得分的方法

    使用 Temporal-Lexeme Similarity 方法训练 Ancillary Confidence Estimation Model 并应用于 End-to-End Automatic Speech Recognition，取得了显著降低 Word Error Rate 的效果。

    Jan, 2024

  • 基于 Transformer 序列到序列模型的自动语音识别纠错

    本文介绍了一种用于自动语音识别（ASR）的简单而有效的后处理模型。我们的模型使用基于 Transformer 的编码器 - 解码器架构，将 ASR 模型输出 “翻译” 成语法和语义正确的文本。作者探讨了不同的规范化和优化策略，并表明需要广泛的数据增强和预训练权重的初始化才能实现良好的性能。在 LibriSpeech 基准测试中，我们的方法在词错误率上表现优异，尤其是在更嘈杂的 dev-other 和 test-other 部分的评估数据集上。我们的模型还通过 6-gram 语言模型重新评分超过了基础模型，并接近于使用 Transformer-XL 神经语言模型重新评分的性能。

    Oct, 2019

  • 基于置信度的端到端语音识别模型集成

    本文探索基于置信度的集成模型方法，证明 5 种单语音模型组合胜于使用专用语言识别块的模型选择，同时结合基础模型和适应模型，可在数据原始状态和目标状态下获得强大结果。

    Jun, 2023

  • 如何通过波束搜索提高生成序列标注中的跨度级别置信度估计？

    本文旨在提供一些关于如何估计生成序列标注模型的置信度的实证见解，特别是如何可靠地评估模型对每个标记的预测置信度，我们发现，简单地使用解码器的输出概率并不是实现良好校准置信度估计的最佳方法，而我们提出的通过顶部 - k 预测的统计数据的方法，在六个不同任务的公共数据集上得到了验证。

    Dec, 2022

  • 序列转序列模型中更好的解码和语言模型集成

    该研究分析了一个基于注意力机制的序列到序列语音识别系统，提出了解决其预测过于自信和产生不完整转录的问题的实用解决方案，并在没有语言模型的情况下，其词错误率为 10.6％，与 trigram 语言模型一起达到了 6.7％的词错误率。

    Dec, 2016

  • 基于注意力机制的序列到序列模型最小词错率训练

    本文研究了训练注意力机制的序列到序列模型来直接最小化期望的单词错误率，通过实验证明通过 N-best 列表的解码假设比基于模型的采样方法效果更好，相对于基准系统性能提高了 8.2%。

    Dec, 2017