Feb, 2023

强调未见过的单词：端到端语音识别的新词汇习得

PDF
TL;DR本篇论文提出了一种利用文本到语音系统生成 OOV 单词并通过损失调整和正则化实现语音识别系统的持续学习，并且相比于之前的方法，该方法可以实现更高的召回率和更高的准确性。
automatic speech recognitionout-of-vocabulary wordsneural networksloss rescalingcontinual learning
发现论文，激发创造
  • 使用合成音频改善端到端 ASR 系统中新词的识别

    利用 TTS 引擎为训练数据中不常见的词提供合成音频，并使用正则化技术在编码器上应用弹性权重整合，从而提高 RNN-T 对 OOV 词的识别准确率并保持对非 OOV 词的性能，相对 WER 可减少 57％。

    Nov, 2020

  • 基于上下文的印度语 ASR 系统中的生词恢复

    本文提出了一种基于声学增强的语言模型的后处理方法，通过基于语境和音素知识来匹配和恢复正确的上下文单词，该方法可以在多个类别中恢复平均 50% 的基于上下文的未登录词。

    Jun, 2022

  • 针对槽位填充的词汇外问题的再探：一种综合对比框架，配有多级数据增强

    本文介绍了一种基于多层数据扩增的 OOV 坚韧性槽填充模型，通过从词和槽的角度解决 OOV 问题。实验表明，该模型比现有模型和之前的最佳模型在 OOV 词和槽方面表现更出色。

    Feb, 2023

  • 联邦学习中的未登录词学习

    本文介绍了使用基于字符级别的循环神经网络的联邦学习方法，以扩展智能手机虚拟键盘的词汇量，并且在不透露敏感文本的情况下学习未知单词（Out-of-Vocabulary Words）。研究表明该方法可行，并且在使用联合后验概率直接抽样的情况下，该模型对常用的未知单词有良好的识别以及较低的交叉熵损失。

    Mar, 2019

  • 序列标注中新词的任务特定表示学习

    本研究提出了一种基于表面形式和上下文预测不能识别的单词的表示方法，解决了基于神经网络的序列标记系统中的词汇外问题（OOV problem），实验结果显示该方法在对比现有最先进的方法时表现更好。

    May, 2019

  • 设备上个性化学习用语

    本文提出了一种个性化的 OOV 扩展技术，借助于 Federated Learning，在减小对内存和延迟的影响的同时，有效地将知识从中心模型转移，学习为个性化词汇的单词嵌入。结果表明，与标准的 FL 个性化方法相比，OOV 扩展明显优于常见的 FL 基准测试。

    May, 2023

  • 低资源情况下数据增强用于处理低频词问题的锡兰 - 英文神经机器翻译

    介绍了一种基于词和短语替换的数据增强技术，能够同时考虑到 Out-of-Vocabulary 问题的两种类型，语法和语义约束，从而提高了低资源语言对的机器翻译质量。

    May, 2022

  • 动态环境下的短期词汇学习

    本文研究了如何动态地获取重要的词汇以及将重要的关键词从支持性文档中提取并用于标记单词记忆，以显著提高新词的检测率，并在只添加少量单词的情况下仅轻微增加误报率。

    Mar, 2022

  • 针对未登录词的少样本表示学习

    本文提出了一种基于少样本回归的新型分层注意力神经网络结构来解决训练集中不存在的词导致词向量精度下降的问题，实验表明该方法在学习 OOV 词嵌入方面具有优越性。

    Jul, 2019

  • 自动语音识别中的持续学习新词

    基于自我监督的持续学习方法，在自动语音识别系统中识别新词时表现出增长性能，通过使用来自之前工作中的增强型记忆自动语音识别模型，通过偏置模型向滑动中的新词进行解码，并对检测到的新词使用推理，将包含这些新词的话语收集到自适应数据集中，对该集进行持续学习，通过调整加到每个模型的权重矩阵上的低秩矩阵权重。该方法在新词经常出现时获得递增性能（超过 80% 的召回率），同时保持模型的一般性能。

    Jan, 2024