ACLMar, 2019

关于口语理解的时间感知注意力机制中除衰减函数外与上下文、说话者指示器的关联

PDF
TL;DR提出了一种自动学习历史潜在时间衰减函数的时间感知模型，用于捕捉对话中的显著上下文信息，并提出了一种识别和标记当前发言者的方法来提高 SLU 准确性。在 Dialog State Tracking Challenge 4 的基准数据集上进行实验证明，所提出的模型的 F1 得分显著高于最先进的上下文模型。最后，对引入模型的有效性进行了详细分析，结果表明它们在改善 SLU 准确性方面取得了良好效果。
spoken language understandingcontextual informationtime-aware modelscurrent speaker identificationslu accuracy
发现论文，激发创造
  • 用于对话建模的动态上下文敏感时间衰减注意力

    该论文探讨了如何将历史信息中的时间信息与内容信息相结合，并提出采用基于时间衰减的注意力机制来实现上下文敏感的口语理解。实验表明，所提出的机制在处理复杂对话上具有很强的灵活性和鲁棒性，并在 Dialogue State Tracking Challenge 数据集上取得了显著的性能提升。

    Sep, 2018

  • 动态时间感知的发言者角色和上下文关注在口语理解中的应用

    该论文提出了一种基于注意力机制的网络，利用上下文和说话人角色进行时态信息的学习和自适应特征提取，从而显著提高了口语理解的性能。

    Sep, 2017

  • 一种高效的口语理解上下文编码方法

    本论文提出了一种用于语音对话系统的有效的语言理解方法，它包括使用记忆网络来处理多个对话中的话语，以及使用循环神经网络进行上下文编码，以提高语义解析精度和计算效率。

    Jul, 2018

  • 将口语理解任务与集成对话历史联合建模

    该研究旨在构建一种新型的自动预测语音理解系统，该系统利用历史对话信息预测口语意图、对话行为、说话人角色和情感等四种属性，并采用自回归模型和无序训练方法，以应对不同 SLU 任务的高效率和低延迟问题。实验证明，该系统与任务特定的分类器相当，并可有效整合对话环境以进一步提高 SLU 性能。

    May, 2023

  • 面向口语理解的序列对话上下文建模

    本文提出了一种新的基于递归神经网络（RNN）的序列化对话编码器网络，并将其与传统的语言理解系统和记忆网络进行了比较，实验证明该网络可以减少语义框架错误率。

    May, 2017

  • 高效准确的非自回归多轮口语理解模型：捕捉显著的历史信息

    本文提出了一种名为 SHA-LRT 的新型多轮对话 Spoken Language Understanding 模型，它通过历史 - 注意机制从历史话语中捕获显著的历史信息，并使用中间状态引导最终预测，有效提高了多轮对话中语言理解的性能，并在单轮 SLU 任务上表现良好。

    Jun, 2022

  • 口语理解中的语义概念抽取现状如何？

    本文述及基于最近三年的神经网络技术，通过直接从语音信号中提取语义，取代传统的分类式自然语言处理方式，以 spoken language understanding 话题研究为主，在利用未标记的数据进行自我监督训练方面取得了新的突破。同时介绍了针对法语 MEDIA 数据集的最新进展，并提出了得到明显改进的成果，概念误差率（CER）从现有最优系统的 13.6% 降至 11.2%。

    Jun, 2021

  • 面向设备的语音理解协商模型

    本文提出了一种新颖的基于推理的端到端（E2E）口语语音理解（SLU）方法，通过在自动语音识别（ASR）的文本和音频嵌入上进行条件控制，流式传输的 ASR 模型产生第一步的假设并由第二步的自然语言理解（NLU）组件生成语义解析。

    Apr, 2022

  • 多轮口语对话中基于知识增强的 BERT 互联网络

    本文研究了基于 BERT 的联合模型，利用知识关注机制和筛选相关知识三元组的门控机制相互利用两个 SLU 任务的对话上下文和动态信息进行建模，实验结果表明相对于其他竞争基线，该方法在两个复杂的多轮对话数据集上取得了相当大的改进。

    Feb, 2022

  • 无 ASR 语音语言理解的端到端架构

    这篇论文探讨了针对 Fluent Speech Commands 数据集的一系列递归架构，用于意图分类，通过结合深度递归架构和标准数据增强，不使用 ASR 级目标或预训练的 ASR 模型即可实现最先进的结果，并且探讨了其对新措辞的普适性，结果表明，该模型在训练期间未见过的措辞上也能表现得相当不错。

    Oct, 2019