自适应集成学习用于语音和音频分类

Mar, 2021

自适应集成学习用于语音和音频分类

Self-paced ensemble learning for speech and audio classification

Nicolae-Catalin Ristea, Radu Tudor Ionescu

TL;DR本研究提出了一种自适应学习集成算法，通过自学习，将多个机器学习模型相互学习并结合起来，实验结果表明该算法在三个音频任务中相比基准集成模型有显著的性能提升，说明了模型之间互相学习的有效性。

Abstract

Combining multiple machine learning models into an ensemble is known to provide superior performance levels compared to the individual components forming the ensemble. This is because models can complement each other in taking better decisions. Instead of just combining the models, we

machine learning ensemble learning self-paced learning pseudo-labeling audio tasks

发现论文，激发创造

自监督语音模型在音频表示方面的功效

本研究提出融合自监督学习语音模型嵌入的集成框架，旨在探究其在音频和非语音任务中的表示能力，实验证明该框架普遍优于当前最先进的自监督学习语音 / 音频模型，特别在面对细粒度音乐任务时也表现出强大的能力。

Sep, 2022

端到端语音识别的自训练

本文探讨了自我训练在端到端语音识别中的应用，并展示给出了使用伪标签训练深度学习模型的方法，经过实验证明了该方法可以大幅提高基准模型的准确率，通过使用语音和语言模型生成伪标签和一些序列到序列模型的过滤机制，并采用新颖的集成方法提高伪标签的多样性，实验结果表明，在噪声语音环境下，使用自我训练的集成模型可以相对于只使用 100 小时标记数据的基准模型，使字错率（WER）提高了 33.9％；在清晰语音环境下，自我训练可以弥补基准模型和理想模型之间相对提高了至少 93.8％的差距。

Sep, 2019

多任务自监督预训练用于音乐分类

本文研究应用自监督学习和多任务学习方法预训练音乐编码器，探索编码器结构、损失权重和自监督任务选择对下游音乐分类任务的影响。研究发现，使用多种音乐特定的自监督任务，结合合理的损失权重平衡，可以提高和推广到下游任务。

Feb, 2021

自主学习的多任务学习

本文提出了一种新颖的多任务学习框架，称为自适应步进多任务学习，该框架通过同时考虑任务和实例的复杂性来共同学习任务。通过提出一种新的面向任务的正则化器，可以联合优化任务和实例，从而可以解释为多任务学习中的自适应学习器。而且作者还设计了一种简单而有效的算法来优化目标函数。通过对玩具数据集和实际数据集进行实验，结果表明与现有的最先进方法相比，提出的方法具有更好的性能。

Apr, 2016

自监督语音表示学习：综述

本论文综述了自监督语音表示学习的方法及其与其他研究领域的联系，讨论了将学习到的表示推广到语音识别以外的应用的最新研究进展。

May, 2022

半监督学习的时间集成

本文提出了一种用于在小部分标记的情况下训练深度神经网络的简单高效方法，采用自我模拟方案的集成预测来提高标签的未知性，从而使得在两个标准半监督学习基准测试中加快速度并实现更好的性能。

Oct, 2016

基于置信度的端到端语音识别模型集成

本文探索基于置信度的集成模型方法，证明 5 种单语音模型组合胜于使用专用语言识别块的模型选择，同时结合基础模型和适应模型，可在数据原始状态和目标状态下获得强大结果。

Jun, 2023

多任务学习和自监督实现高效的音频分类

本研究旨在通过使用多任务学习和自监督学习提高基于 WaveNet 的大型神经网络在音频数据上的标签效率，并证明在有限的标记训练数据场景下，同时训练其他自监督任务可以显著提高分类性能。

Oct, 2019

基于音频的情绪识别的自监督学习

情感识别通过音频输入数据的模型可以实现在心理健康、营销、游戏和社交媒体分析等领域的交互式系统的发展。

Jul, 2023

探究自监督预训练模型的集成特征在自动语音识别中的应用

本文介绍使用多个基于自监督学习的模型以及它们所提取特征的集成方法，改善语音识别任务的性能，并使用三种自监督模型 HuBERT、Wav2vec2.0 和 WaveLM 进行了实验，得到了较好的效果。

Jun, 2022