May, 2020

利用 BERT 联合编码词困惑网络和对话环境来进行口语理解

PDF
TL;DR本文提出了一种基于 BERT 的新型 SLU 模型（WCN-BERT SLU），其可以在 BERT 体系结构中整合 WCN 的结构信息和 ASR 后验概率，实验结果在 DSTC2 基准测试中表明该方法是有效的并且明显优于以前的最先进模型。
发现论文，激发创造
  • 通过上下文学习和词混淆网络实现 ASR 鲁棒性口语语言理解

    通过使用自动语音识别系统的网络输出来弥补语音模糊性，增强口语语言理解的结果，通过对置信网络的词语混淆进行实验，研究大型语言模型对嘈杂的语音转录本的鲁棒性，探讨在不同自动语音识别性能条件下的影响因素。

    Jan, 2024

  • ASR 纠错和语言理解的联合上下文建模

    该研究提出了一种多任务神经网络方法，通过对话系统中的语音识别输出进行上下文语言纠正和语言理解以改善两个任务的性能，从而提高自动语音识别的质量。

    Jan, 2020

  • 一种高效的口语理解上下文编码方法

    本论文提出了一种用于语音对话系统的有效的语言理解方法，它包括使用记忆网络来处理多个对话中的话语，以及使用循环神经网络进行上下文编码，以提高语义解析精度和计算效率。

    Jul, 2018

  • 面向口语理解的序列对话上下文建模

    本文提出了一种新的基于递归神经网络（RNN）的序列化对话编码器网络，并将其与传统的语言理解系统和记忆网络进行了比较，实验证明该网络可以减少语义框架错误率。

    May, 2017

  • 针对语音识别鲁棒性的上下文化嵌入在口语理解中的学习

    本研究提出了一种新的混淆感知的微调方法，以减轻 ASR 误差对已预训练的语言模型产生的影响，并在 ATIS 数据集上进行了实验，结果表明该方法显著提高了 ASR 转录文本上口语理解的性能。

    Sep, 2019

  • 使用 Confusion2Vec 的口语意图检测

    本研究旨在提高在噪声自动语音识别（ASR）系统条件下口语意图检测的准确性和鲁棒性，引入人类语音产生和感知中的声学关系概念，通过 confusion2vec 词特征表示方法减少 ASR 错误，得到了相对于之前的最优结果有 20.84% 的分类错误率降低和相对于干净版的 37.48% 提高的鲁棒性。同时，在嘈杂环境下训练的意图检测模型也表现出了一定的提高。

    Apr, 2019

  • 联合 CTC 损失和自监督预训练声学编码器的端到端口语理解

    本研究通过利用自我监督的声学编码器，提取文本嵌入，结合联合 CTC 和 SLU 损失的方法，实现了语音理解任务的话语级 SLU 模型，并在 DSTC2 数据集上比 SOTA 对话行为分类模型提高 4％绝对值，在 SLURP 数据集上比 SOTA SLU 模型提高 1.3％绝对值。

    May, 2023

  • 利用句子和上下文表示的深度神经模型进行口语理解

    本文提出了一种深度学习的体系结构，用于基于轮询槽位的语音问答系统中的语义解码器组件，该语义解码器利用分布式语义表示学习来克服显式去词汇化的限制，通过使用卷积神经网络和长短时记忆网络对句子和上下文表示进行建模，并基于 DSTC2 和 In-car 数据集，对模型进行了实验验证。

    Oct, 2016

  • 适应风格的预训练和参数高效微调用于口语理解

    为解决领域特定标注样本数量过多的问题，提出了一种由对话语言建模预训练任务和轻量级编码器构成的 SLU 框架，通过预训练学习对话语言表示和解耦共享网络与映射领域特定知识的轻量级编码器实现领域适应。在内部和公共数据集上，该框架在添加少量参数的情况下与现有 SLU 方法的表现相匹配。

    Oct, 2020

  • N-Best ASR Transformer: 使用多个 ASR 假设提高 SLU 性能

    使用自动语音识别提供的多个文本替代方案，采用简化的表述方式，通过 transformer 模型 BERT 和 XLM-RoBERTa 对 N-best 替代方案的连接作为输人，提高了 Spoken Language Understanding 系统的性能。

    Jun, 2021