本文介绍了一种用于自动语音识别（ASR）的简单而有效的后处理模型。我们的模型使用基于Transformer的编码器-解码器架构，将ASR模型输出“翻译”成语法和语义正确的文本。作者探讨了不同的规范化和优化策略，并表明需要广泛的数据增强和预训练权重的初始化才能实现良好的性能。在LibriSpeech基准测试中，我们的方法在词错误率上表现优异，尤其是在更嘈杂的dev-other和test-other部分的评估数据集上。我们的模型还通过6-gram语言模型重新评分超过了基础模型，并接近于使用Transformer-XL神经语言模型重新评分的性能。

Oct, 2019

本文提出了一种简单的技术，通过机器翻译实现ASR误差校正的领域自适应，我们使用了Google ASR和ASPIRE模型进行了实验，结果显示我们的方法可以使Google ASR输出的字错率下降7%，其BLEU分数绝对值提高了4点；同时，通过流下游任务Speaker Diarization，我们还评估了ASR误差校正，并捕捉了由ASR更正而获得的说话人风格、语法、结构和语义改进。

Mar, 2020

本文提出了 FastCorrect 2，一种错误校正模型，并采用多候选项作为输入，以提高纠错精度。 FastCorrect 2 采用非自回归生成来进行快速推理，其中包括一个编码器，用于处理多个源语句，并且根据每个源标记的预测持续时间生成调整后的源语句；同时，提出了一种新的对齐算法和候选预测器，以最大程度地实现多个句子在令牌和发音相似性方面的令牌对齐，并检测适合解码器的最合适的候选项。实验结果表明，FastCorrect 2 可以减少单个候选者的 WER，比联级重评分和校正流水线更有效，并可用作 ASR 的统一后处理模块。

Sep, 2021

该研究使用预训练序列到序列模型BART，并对其进行自适应训练来对自动语音识别中的发音和拼写错误进行纠正，并采用词级对齐的简单方法重新评分。实验结果表明，该策略在口音语音数据上有效地矫正了大量ASR错误，并在与基准系统的比较中产生了改进的WER结果。然而，在印地语语法错误纠正任务中，该模型捕捉更广泛上下文的能力受到限制。

Feb, 2022

本文提出了一种利用纠错操作预测的ASR错误校正方法，该方法可降低解码过程的延迟，提高推理速度并维持相同水平的准确性。

Aug, 2022

本文提出了SoftCorrect,一种具有软错误检测机制的误差校正方法，该方法通过由专门设计的语言模型产生的一种概率来检测单词是否正确，然后设计了一种受限制的CTC损失，仅复制检测到的错误单词，以便解码器集中进行错误单词的更正

Dec, 2022

本文提出了一种基于Transformer模型和音素编码器的新型非自回归（NAR）纠错方法，该方法通过减少单词错误率（WER）来提高转录质量，并在不同的上游ASR系统中实现了鲁棒性能，特别是在GPU硬件上实现了与其他NAR模型相当的推断延迟，并且比自回归模型快4.2-6.7倍。

Feb, 2023

自动语音识别（ASR）误差校正中，提出了一种不依赖于训练数据的无监督检测-生成-选择框架UCorrect，它能显著减少词语错误率（WER），无需微调可达6.83%，微调后可达14.29%，显著优于其他NAR修正模型，并具有竞争性的低延迟；同时，它是一种通用方法，可减少不同解码策略和不同规模数据集上训练的ASR模型的WER。

Jan, 2024

提出了一种非自回归的语音错误纠正方法，利用置信度模块和音频特征从自动语音识别假设中准确定位错误，采用交叉注意机制融合错误纠正参考和自动语音识别假设，并在实验中显示出音频和置信度参考能够帮助错误修正，该系统与自动语音识别模型相比减少了21%的错误率。

Jun, 2024

本研究解决了自动语音识别（ASR）转录中的错误纠正模型的有效性问题，提出通过ASR N-best列表来构建高性能的错误纠正模型，从而提供更多上下文信息以改进纠正过程。实验表明，新方法在多个ASR系统上表现出色，并且能够应对不同ASR系统之间的迁移学习问题，具备零-shot错误纠正能力，具有广泛的应用潜力。

Sep, 2024