speech tasks | BriefGPT - AI 论文速递

关键词speech tasks

搜索结果 - 6

MaLa-ASR: 多媒体辅助的基于 LLM 的 ASR
提出了基于 LLM 的 ASR 模型 MaLa-ASR，可以整合从演示文稿中提取的文本关键词来提高会议内容的识别率，通过在输入提示中添加关键词，可将有偏差的词错误率（B-WER）相对减少 46.0％和 44.2％，在该数据集上取得了新的 S
PDFa month ago
WavLLM：面向健壮和适应性语音大语言模型的研究
WavLLM 是一种鲁棒且自适应的具有双编码器和提示感知的语音大型语言模型，通过两阶段课程学习方法来优化，以在各种语境下进行听觉任务的泛化和执行复杂任务。
PDF3 months ago
COLINGLeBenchmark 对法语句法的学习
该研究报告了一系列实验证明，LeBenchmark 这个经过预训练的法语口语模型，可以通过测验其各个表示层的句法信息，从而证明它已经学到了一些句法信息。句法信息更容易从网络的中间层中提取，之后观察到了一个非常明显的降低。
PDF4 months ago
面向任务的语音表示模型的结构化剪枝
本文提出了一种精细的注意力头修剪方法来解决自监督预训练模型中的模型压缩问题，并介绍了直通估计量到 L0 正则化中以进一步加速修剪模型，超越 Wav2vec2.0 基准模型的表现，且具有 72% 更少的参数和两倍的推理速度。
PDFa year ago
语音自监督表示基准测试：我们做得对吗？
本文研究了自我监督学习在语音任务中的应用，特别是其在下游任务中的性能表现和解码器架构的影响。结果发现，使用不同的解码器架构可能会导致表现结果的显著变化，使用局限的解码器也可能会适得其反地增加 SSL 模型的大小。
PDFa year ago
MM高斯错误线性单元 (GELUs)
本文提出了高性能的神经网络激活函数 ——Gaussian Error Linear Unit（GELU），它的非线性性能优于 ReLU 和 ELU，并在所有涉及的计算机视觉、自然语言处理和语音任务中均实现了性能提升。
PDF8 years ago