MMAug, 2018

基于深度学习的声学关键词检测的序列判别训练

PDF
TL;DR本文探讨了基于深度学习框架下的固定词汇量和无限制口语识别中，序列鉴别式训练的有效性，提出了一种有效的方法，通过引入独立音素网格或非关键词空白符号来构建竞争性假设，相比前面基于深度学习的原始方法，在固定词汇和无限制 KWS 任务中，提高了很大的识别性能。
speech recognitiondeep learningsequence discriminative trainingkeyword spottingacoustic kws
发现论文，激发创造
  • 野外视觉语音识别零样本关键词检测

    本论文针对实际应用中未被训练过的词语进行视觉关键词检测的问题，并使用端到端的多层神经网络架构，使用语音图形编码器解决了此问题，该模型在 LRS2 数据集上取得了非常有前途的结果。

    Jul, 2018

  • 探索用于小尺寸关键词检测的表示学习

    本文探讨了如何利用自监督对比学习和预训练模型来进行低资源关键词检测中的表征学习，通过构建局部 - 全局对比同构网络和利用预训练 Wav2Vec 2.0 模型，该小型模型可以利用未标记的数据进行预训练，实验结果表明在小的标记数据集的情况下，自我训练的 WVC 模块和自监督的 LGCSiam 模块可以显著提高准确性。

    Mar, 2023

  • 用于设备上关键词识别系统自定义的 Few-Shot 开放集学习

    本研究针对 KeyWord Spotting 的应用场景，提出了基于 Deep Learning 和 Few-shot Learning 的开放式分类方法，并通过使用三元组损失训练编码器，实现了较高的精度和较低的未知数据虚警率。

    Jun, 2023

  • 端到端逐步增量式语音理解的序列级知识蒸馏

    该研究提出了三种知识蒸馏方法，通过应用于声音编码器 (audio-KD) 和解码器 (tok-KD 和 seq-KD) 以解决神经网络在非稳态环境下学习新概念的问题，特别应用于连续学习等领域的口语理解问题。结果表明，seq-KD 可以显著提高性能，并与 audio-KD 的结合进一步降低了平均 WER 并增强了实体预测指标。

    May, 2023

  • 基于语音增强的无监督学习关键词检测

    本文研究了一种基于语音增强的无监督学习方法来解决关键词检测任务，提出了一种 CNN-Attention 模型来处理关键词检测任务，并通过两种语音增强方法来提高模型的稳健性和分类效果，实验表明，这种增强式的无监督学习方法能够进一步提高关键词检测的准确率。

    May, 2022

  • 深度口语关键词检测：概述

    本文综述了深度口语识别应用技术，包括深度学习、语音识别、音视频识别等方向，旨在为相关从业者和研究人员提供指导和帮助。

    Nov, 2021

  • 基于条件的在线关键词检测学习

    本研究探讨了一种简单而有效的在线持续学习方法，旨在通过随着新数据的不断出现在设备上通过随机梯度下降来更新关键词检测器。通过对不同情境下的动态音频流进行实验，该方法将性能提高了 34％。此外，实验表明，与一个朴素的在线学习实现相比，基于对训练分布中的小 hold-out 集的表现条件模型更新可以缓解灾难性遗忘。

    May, 2023

  • 基于音频文本的关键字定位的潜在编码匹配

    本文提出了一种基于语音 - 文本嵌入的端到端模型的架构，使用动态规划算法将音频序列与基于单词的文本序列相同长度地划分，并提出了 DSP 方法，实现了音频 - 文本的对齐，实验结果表明，该模型在 ROC 曲线下的面积和等误差率方面优于现有技术 14.4% 和 28.9%。

    Jun, 2023

  • 关键字检测 -- 基于深度学习的口语指令识别

    探索使用语音识别机器学习和深度学习技术进行关键词识别的重要任务，并实现了将原始波形转换为 Mel 频率倒谱系数作为模型输入的特征工程。通过尝试使用多种算法，包括混合高斯隐马尔科夫模型、卷积神经网络以及变种的循环神经网络，如长短时记忆和注意力机制，我们的实验表明带有双向长短时记忆和注意力机制的循环神经网络可以达到 93.9％的准确率。

    Dec, 2023

  • 通过自监督预训练实现噪声鲁棒的关键词检测

    使用自我监督学习（SSL）预训练算法 Data2Vec 可以提高关键词识别（KWS）模型在嘈杂环境下的鲁棒性。

    Mar, 2024