Dec, 2020

任务导向对话系统中的持续学习

PDF
TL;DR本文提出了一个能够让我们通过时间添加新的领域和功能而不需要付出整个系统重新训练的任务导向对话系统的连续学习基准。我们在四个不同的设置下连续地学习了 37 个领域，包括意图识别、状态跟踪、自然语言生成和端到端。此外，我们实现并比较了多个已有的持续学习基线，并提出了一种简单而有效的基于残余适配器的结构方法。我们的实验证明，所提出的结构方法和简单的回放策略表现相当好，但是它们都比多任务学习基线表现差，后者将所有数据一次性展示出来，这表明对话系统的连续学习是一项具有挑战性的任务。此外，我们还揭示了在参数使用和内存大小方面不同连续学习方法之间的几个权衡，这对任务导向对话系统的设计非常重要。我们还发布了所提出的基准测试以及几个基线，以推动更多的研究方向。
发现论文，激发创造
  • 动态对话策略的连续强化学习

    为了解决任务导向的对话系统在学习新知识时需要不断适应的问题，我们提出了一种动态对话策略变换器 (DDPT)，它是一种能够无缝集成新知识、处理大状态空间并在暴露到未见过的领域时获得重要的零 - shot 性能的新的动态架构。我们提供一个不间断的学习算法、基线架构和度量标准来评估不间断学习模型。

    Apr, 2022

  • 面向对话代理的持续学习

    本文介绍了一种基于最新的神经网络连续学习技术的领域无关的神经对话模型，同时提出了一种新颖的神经连续学习算法，能够以数据 - 效率的方式跨越不同任务积累技能，在客户支持领域通过从合成对话或人类之间的对话到人 - 计算机对话的连续技能转移来验证方法的功效。

    Dec, 2017

  • 终身和持续学习对话系统

    这本书介绍了一种新的对话系统学习方法，即通过自身与用户和环境的交互来学习，实现从用户和外部来源不断学习语言表达、词汇和 factual 知识、训练样本和会话技能等方面的持续改进。除了总体论述，书中还介绍了一些特定话题的持续学习方法，并探讨了未来研究的挑战。

    Nov, 2022

  • 面向任务的对话与上下文学习

    使用大型语言模型（LLMs）的上下文学习能力与业务逻辑的确定执行相结合，描述了一种构建面向任务的对话系统的系统。与主要用于行业的基于意图的 NLU 方法相比较，我们的实验表明，使用我们的系统开发聊天机器人所需的工作量明显较少，这些聊天机器人可以成功地进行复杂对话，并且我们的系统对于大规模任务导向的对话系统具有可扩展的有益特性。我们提供了我们的实现用于使用和进一步研究。

    Feb, 2024

  • 面向任务型对话系统的最新进展和挑战

    本文探讨了任务导向对话系统的最新研究进展和挑战，特别在三个关键领域进行了深入讨论：提高数据效率、模拟多回合动态以优化任务完成性能，以及将领域本体知识与对话模型集成。此外，还评估了最近的对话进展和一些常用的语料库。我们相信，这虽然不是一个完整的调查，但它仍然可以为未来任务导向对话系统的研究提供启示。

    Mar, 2020

  • 面向混合领域的任务导向对话

    研究了跨领域环境下的任务导向对话问题，并探讨了通过使用特定的状态监测组件和混合式系统来提高任务信念跟踪准确率的方法。

    Sep, 2019

  • 持续学习神经对话管理

    提出了一种基于神经网络框架的分层学习方法，通过监督学习和强化学习相结合，实现了对话管理任务中的有效性以及在高噪声的情况下提高性能。

    Jun, 2016

  • 对话状态跟踪的继续提示调整

    本文提出了一种连续的提示调整参数有效的框架，可避免对旧任务的遗忘并在任务之间实现知识转移，验证实验表明该方法在对话状态跟踪领域中具有有效性和高效性。

    Mar, 2022

  • 面向任务型对话系统的自然语言生成的持续学习

    本篇论文中，作者针对自然语言生成在任务导向型对话系统中的应用，提出了一种连续学习的方法 ARPER（Adaptively Regularized Prioritized Exemplar Replay），通过回放优先历史样本和基于弹性权重整合的自适应正则化技术，有效地缓解了灾难性遗忘问题。在 MultiWoZ-2.0 数据集上的实验证明，ARPER 明显优于其他方法。

    Oct, 2020

  • 面向任务导向对话的领域自适应 Prompt 学习

    本文研究了提高生产质量的面向任务的对话系统的设计的困难，提出了使用自然语言的轻量级语义表示 —— 规范形式作为用户意图分类的替代方法，并且展现了规范形式可以很好地泛化到新的、未知的域，在零次或少次样本学习中可以轻易实现，并且可以降低开发新的任务导向的对话域的复杂性和费用。

    Nov, 2022