Oct, 2022

滤波和进化：半监督自动语音识别的渐进式伪标签精炼

PDF
TL;DR本文研究使用伪标签微调自监督预训练模型的方法，提出通过平均概率分数过滤低质量的伪标签，挑选高可信性训练数据，迭代更新模型纠正不可靠的伪标签并去除噪声标签的策略，以提高语音识别性能。实验结果表明，该方法在 LibriSpeech 上具有良好表现。
self-supervisedpretrainedpseudo-labelsspeech recognitionfiltering
发现论文，激发创造
  • 自适应半监督学习中的伪标签过滤

    本文提出了一种自适应伪标签过滤器（SPF），根据模型发展过程中的置信度分布自动过滤伪标签，与深度神经网络一起演化，无需手动调整，通过将 SPF 应用于现有的半监督学习方法，特别是在标记数据极少的情况下，证明可以提高半监督学习的性能。

    Sep, 2023

  • 半监督自动语音识别的替代伪标注方法

    通过使用伪标签技术的半监督学习，结合泛化的 CTC 损失函数、对抗性 CTC 损失函数和自动阈值方法，本研究提出了一种名为 “替代伪标签” 的新框架，以应对噪声伪标签带来的问题。

    Aug, 2023

  • 端到端语音识别的自训练

    本文探讨了自我训练在端到端语音识别中的应用，并展示给出了使用伪标签训练深度学习模型的方法，经过实验证明了该方法可以大幅提高基准模型的准确率，通过使用语音和语言模型生成伪标签和一些序列到序列模型的过滤机制，并采用新颖的集成方法提高伪标签的多样性，实验结果表明，在噪声语音环境下，使用自我训练的集成模型可以相对于只使用 100 小时标记数据的基准模型，使字错率（WER）提高了 33.9％；在清晰语音环境下，自我训练可以弥补基准模型和理想模型之间相对提高了至少 93.8％的差距。

    Sep, 2019

  • 伪标签优于人工标注

    本文介绍了使用自监督学习和半监督学习技术训练强力教师模型来产生高质量伪标签的方法，进而用这些标签来训练语音识别模型，取得了较好的结果。

    Mar, 2022

  • 联合语音转录和翻译：使用 Out-of-Distribution 数据进行伪标签

    本文研究使用自训练和伪标签技术，通过数据增强和过滤等手段，在语音识别中克服领域不匹配问题，从而提高了 0.6% 的音字误率和 2.2 个 BLEU 值百分点。

    Dec, 2022

  • 无监督基于不确定性的语音伪标签过滤和模型校准

    本文介绍了一种基于 Dropout 的不确定性驱动自训练（DUST）方法，该方法使用教师模型对未标记目标域数据提供伪标签。我们提出了一种基于模型预测的不确定性的简单，有效和理论上可靠的 PL 过滤策略，并指出 PL 过滤可能会在严重的源域和目标域不匹配的情况下失败。此外，我们还将神经网络模型校准的研究成果带到了 DUST 中，并发现模型校准与 DUST PL 过滤步骤的积极结果强相关。

    Nov, 2022

  • 无法处理（肮脏的）真相：以数据为中心的洞察提高了伪标注

    伪标记是一种使用少量标记样本来利用无标记数据的常用半监督学习技术。本研究提出了一种名为 DIPS 的数据特征化和选择框架，通过对学习动态的分析来改善伪标记方法，提高标记数据的质量，并展示了其在各种真实世界的表格和图像数据集上的应用和影响。综上所述，我们强调了在真实环境中数据为中心的伪标记方法的显著优势。

    Jun, 2024

  • 动量伪标记在半监督语音识别中的应用

    本研究提出一种名为动量伪标签的半监督语音识别方法，采用了一种在线模型与离线模型之间交互学习的策略，取得了比基准模型更好的效果。

    Jun, 2021

  • SELF: 用自组学习在过滤含噪标签方面的应用

    使用 self-ensemble 标签过滤方法对深度神经网络在噪声标签下的学习进行改进，通过逐渐过滤错误标签来提高任务性能，同时在无监督损失中利用这些数据进行半监督学习，并在不同的数据集和噪声比率下优于以前所有的噪声感知学习。

    Oct, 2019

  • 迭代式拟标记在语音识别中的应用

    本文研究了伪标记技术在半监督自动语音识别中的应用，提出了一种名为 Iterative Pseudo-Labeling（IPL）的算法，通过迭代伪标记技术并利用无标注数据，可以在标准和低资源环境下实现最佳单词错误率，此外，研究表明对不同文本语料库进行训练的语言模型对于提高 ASR 的效果非常有效，最后我们公开了一个新的大规模行业内文本语料库以促进低资源半监督 ASR 的研究。

    May, 2020