May, 2022

实境游戏学习的自然语言理解：初步评估

PDF
TL;DR研究了一个新的多任务 NLU 结构在小型领域游戏数据集上进行意图识别的表现，发现相比基线方法，Dual Intent and Entity Transformer (DIET) 架构在野外数据上具有较强的鲁棒性。
intelligent systemsspoken dialogue systemsnatural language understandingintent recognitiongame-based learning
发现论文，激发创造
  • 使用释义生成和实体提取的数据增强方法以用于多模态对话系统

    研究了应用数据增强和改进 NLU 模型对于在基于游戏学习场景中帮助儿童学习数学基本概念的多模式对话系统的有效性，得到了使用小型数据集进行 MITL 策略下的改写的良好表现。

    May, 2022

  • 半监督交互式意图标注

    展示了一个基于 BERT 模型的 Intent Bulk Labeling 系统，通过使用先进的聚类和可视化标注方法，与数据增强技术相结合，提高了 SDS 模型的意图和分类准确度达到超过 10% 的效果。同时，该系统还可从聚类模型提取话语嵌入并以交互方式进行批量标记，减少了数据标注的时间和精力消耗。

    Apr, 2021

  • 自然语言理解和对话管理的端到端联合学习

    本文介绍了一种使用深度循环神经网络及其逐步训练实现的自然语言理解和系统动作预测联合模型，在多领域人机对话中验证了该模型的性能显著优于现有模型。

    Dec, 2016

  • 面向基础数学学习的口语对话系统的端到端评估

    本研究采用 Spoken Dialogue System 通过多模式互动为幼儿教育提供基础数学概念的学习，使用 MathBERT 来增强自然语言理解模块，对于自动语音识别（ASR）、意图识别和对话管理器（DM）模块的实际部署输出进行端到端评估，以了解错误传播如何影响实际场景的综合表现。

    Nov, 2022

  • 一种可扩展的框架，用于从隐性用户反馈中学习，以改善大规模对话 AI 系统中的自然语言理解能力

    本文提出了一种可扩展且自动的方法，通过利用隐式用户反馈来改进大规模对话 AI 系统中的自然语言理解 (NLU)。我们基于用户交互数据和对话上下文，提出了一个通用的领域无关框架，以改进来自生产流量的 NLU 新监督数据。通过广泛的实验，我们展示了应用该框架并改进大规模生产系统中的 NLU 的结果，并展示了其在 10 个领域的影响。

    Oct, 2020

  • DialogVCS：对话系统中鲁棒的自然语言理解升级

    通过 DialogVCS 建立了一种新的基准测试方法，将包含语义交织的意图识别问题建模为带有正标签但是未标注意图的多标签分类任务，并提出了综合的基线模型以有效地识别具有语义交错的意图。

    May, 2023

  • 为构建对话代理评估自然语言理解服务

    比较了不同的 NLU 工具在多个领域中的性能，结果表明在意图分类方面 Watson 表现最佳，而在实体类型识别方面表现不佳。

    Mar, 2019

  • DIET: 对话系统的轻量级语言理解

    DIET 架构研究了不同预训练表示对意向和实体预测的有效性，并在多领域 NLU 数据集上取得了最新的技术水平，没有明显的使用大规模预训练模型的好处，实际上 DIET 即使在没有预先训练嵌入的情况下，也改进了现有技术水平，效果最佳的模型优于 Fine-tuning BERT 并且训练速度快六倍。

    Apr, 2020

  • 以语言模型为少样本学习者的任务导向式对话系统

    本文探讨自然语言理解、对话状态跟踪、对话策略和自然语言生成这四个模块在少数据样本下学习的挑战，并评估了使用自然语言生成模型进行少样本迁移学习的效果和局限性，为未来研究提供了启示。

    Aug, 2020

  • 面向目标导向对话系统的自动意图提取和话语分类算法

    自然语言处理领域的现代机器学习技术可用于自动生成目标导向对话系统的脚本。本文提出了一个研究自动生成目标导向对话系统脚本的通用框架，并描述了一种用于预处理 JSON 格式对话数据集的方法。比较了基于 BERTopic 和潜在狄利克雷分配的两种提取用户意图的方法，并比较了基于逻辑回归和 BERT transformer 模型的两种分类用户语句的算法实现。与其他方法相比，使用 bert-base-uncased 模型的 BERT transformer 方法在精确度（0.80），F1 分数（0.78）和马修斯相关系数（0.74）等三个指标上表现更好。

    Dec, 2023