Mar, 2023

对话行为引导的上下文适应器用于个性化语音识别

PDF
TL;DR本研究提出了一种对话行为引导的上下文适配器网络，改善了多轮对话中自然语言识别的性能，相较于现有技术提高了数量级，具体表现为相对相对单词误差率降低 58%。
personalizationmulti-turn dialogscontextual adaptersdialog actautomatic speech recognition
发现论文，激发创造
  • 神经转换器中的个性化语音识别上下文适配器

    本文提出了通过训练神经上下文适配器来实现个性化的自动语音识别（ASR）模型，并表明，相对于浅层融合方法，这种方法不依赖于外部语言模型且性能更好。

    May, 2022

  • 一个基于语境的对话行为识别方法，使用简单的循环神经网络

    提出了一种上下文敏感的对话行为识别方法，利用基于字符级语言模型的话语表示来学习对话行为分类，并在 Switchboard 对话行为语料库上测试，结果表明考虑先前话语作为当前话语的语境可以改进对话行为识别。

    May, 2018

  • 面向开放域对话代理的上下文对话行为分类

    本文提出了一种名为 CDAC 的深度学习算法，通过在 Switchboard 人际对话数据集上进行预训练并在人机对话数据集上微调，实现了上下文对话行为分类，并表明采用小样本人机对话数据微调 CDAC 模型可以更精确地预测真实用户的对话行为，为未来的改进提供了有希望的方向。

    May, 2020

  • 基于分层结构的本地上下文关注在对话行为识别中的应用

    本研究旨在设计一种基于自注意力机制的分层模型，以识别对话行为，并通过修改注意分布来关注局部和上下文语义信息，同时引入新的对话分割机制，分析对话长度和上下文填充长度对模型效果的影响。实验表明，该模型在 Switchboard 对话行为和 DailyDialog 两个数据集上均取得了 80.34% 和 85.81% 的准确率，并且通过可视化注意权重的方式展示了其可以显示地学习话语之间的上下文依赖关系。

    Mar, 2020

  • 利用跨句上下文和多任务语言建模进行电子商务聊天机器人的语音识别适应

    本文探讨了改进 Transformer-XL NLM 以重评 ASR N-best 提示的各种技术，包括利用上下文化、域自适应和多任务模型等方面；结果显示，模型的性能明显优于 LSTM LM 基准模型。

    Jun, 2021

  • 基于上下文感知自注意力机制的对话行为分类

    本文研究 Dialogue Act 分类，提出了将上下文感知的自注意机制与分层循环神经网络相结合的方法，并在 SwDA Corpus 上证明了其在不同语义表征学习方法下的高精度表现。

    Apr, 2019

  • 基于神经网络的上下文表示学习用于对话行为分类

    本文研究利用神经网络模型中的上下文表征学习方法进行对话行为分类，作者提出并比较了不同方法，包括结合了循环神经网络架构和不同上下文层次的注意力机制，实验结果表明这种方法相较于没有上下文信息的模型具有更为一致的提高并揭示了最适合的注意力机制取决于数据集的性质。

    Aug, 2017

  • 使用神经联想记忆进行快速上下文适应，提高设备端个性化语音识别

    本文介绍一种基于模型的端到端语境自适应方法，它不依赖于解码器，适合用于设备上的个性化训练，实验结果表明，相比传统的重新评分技术，在连续个性化场景中，该方法可以使相对识别率（WER）提高 12％，实体提及特定 F1 得分提高 15.7％。

    Oct, 2021

  • 基于上下文意识的神经网络自动化生成转录文本的对话行为分类

    本文提出了一种新的方法，该方法结合了卷积神经网络（CNN）和条件随机场（CRF），用于自动生成转录文本中的对话行为（DA）分类。结果表明，CNN 和 CRF 相结合的方法能够提高对话行为分类的准确性，同时基于端到端的自动语音识别系统似乎更适合于该任务。

    Feb, 2019

  • 多语言上下文适配器：提高低资源语言中自定义单词识别的效果

    本文提出了一种监督损失的方法来平滑 Contextual Adapters 的训练，进一步探讨了多语言策略以提高有限的训练数据的性能，结果在一个低资源语言中检索未见过的自定义实体方面取得了 48％ F1 的提升。

    Jul, 2023