Jan, 2023

大词汇量本地 ASR 的双向学习

PDF
TL;DR通过对一种在 conformer 模型上的 unsupervised 的 dual learning 方法的实验，取得了相对于之前模型的 10.7%/5.2%(没有 LM) 和 11.7%/16.4%(有 LM) 的 WER 提升，该方法对已经在大规模监督语料库上训练过的实时 on-device streaming 模型进行了优化。
dual learningsemi-supervised machine learningspeech processingon-device streaming modelslibrispeech
发现论文，激发创造
  • 双重监督学习

    该研究提出一种被称为双重监督学习的方法，即同时训练两个双重形式的任务模型，并明确利用它们之间的概率关联来规范训练过程。该方法可同时提高多种应用程序的实际性能，包括机器翻译，图像处理和情感分析。

    Jul, 2017

  • 半监督自然语言理解的双向学习

    通过引入一个新的 NLU 双重任务 —— 语义到句子生成 (SSG)，并提出一种新的半监督 NLU 框架，其中包括对应的双重模型，以解决之前半监督学习面临的标注样本稀缺问题。该框架通过主任务与对偶任务之间的闭环，使得 NLU 模型可以充分利用数据（标记和无标记），并在每次迭代中逐步提高 NLU 和 SSG 模型的性能，在 ATIS 和 SNIPS 两个公共数据集上的实验结果表明，该方法明显优于基线，而且在监督设置下也可以达到最先进水平。

    Apr, 2020

  • 双重对比学习：基于标签感知数据增强的文本分类

    本研究利用 DualCL 框架将分类器参数作为增广样本，与输入样本结合运用对比学习方法，在五个基准文本分类数据集上表现出较高的分类准确性，并证实了 DualCL 框架在学习具有判别性的表示方面的能力。

    Jan, 2022

  • 通过自修剪学习双模式语音识别模型

    该研究旨在通过 Omni-sparsity supernet 方法联合训练一个紧凑稀疏的流式 ASR 模型和一个大型密集的非流式服务器模型，进而提高现有 ASR 模型的性能。

    Jul, 2022

  • 深度相互学习的端到端自动语音识别

    本论文首次将深度相互学习（DML）应用于端到端自动语音识别模型，通过与标签平滑、定量采样和音频增强等近期代表性训练技术相结合，提高了大规模建模和紧凑建模的日语语音识别任务的性能表现。

    Feb, 2021

  • DUAL：用于无文本口语问答的离散口语单位自适应学习

    该文提出了采用离散口语单元自适应学习（DUAL）方法，旨在解决当问答任务涉及到名称实体或生僻单词时，仍然能够从口语文本中获取正确答案的问题，同时发布了适用于更真实场景的新的 SQA 基准语料库 NMSQA。

    Mar, 2022

  • 双模 ASR: 统一与改进全上下文流式 ASR 模型

    该研究提出了一种统一框架的双模 ASR（自动语音识别），通过权重共享和全场景 ASR 的联合训练，特别是在训练期间进行知识蒸馏，使流式 ASR 的延迟和准确性得到明显改善。该框架适用于最新的卷积和变压器 ASR 网络，并在 LibriSpeech 和 MultiDomain 数据集上进行了广泛实验和削减研究，取得了新的流式 ASR 结果。

    Oct, 2020

  • 机器翻译的双重学习

    提出了一种双向学习机制（dual-learning mechanism），通过强化学习过程，使用一个代理模型代表原始任务模型，另一个代理模型代表对偶任务模型，以无监督学习方式自动从无标注数据中学习。实验证明，该方法在英法翻译中表现良好，尤其是在使用单语数据的情况下。

    Nov, 2016

  • 低资源任务导向的对话系统的多重对称双学习

    通过数据挖掘和双重学习，本论文提出的新方法可以显著提升任务导向对话系统在低资源情境下的效果。

    May, 2023

  • 低资源口语理解的多任务学习

    本研究探讨了多任务学习在语音处理中的优势，通过使用自动语音识别和意图分类或情感分类的双重目标来训练模型，我们的模型虽然规模适中，但我们的研究表明多任务学习可以在低资源情况下与基线模型竞争，并且在情感分类上表现与端到端模型相当。

    Nov, 2022