Sep, 2022

在基于知识的任务导向对话系统中采用加权负采样进行外部知识选择

PDF
TL;DR本文旨在构建一个具有鲁棒性的口语对话系统，通过引入未结构化的外部知识和采用数据构建、加权负采样、后训练以及风格转换等四种高级方法，完成了 DSTC10-Track2-Task2 的任务，实验表明我们的模型在客观评估中排名第 7，人工评估中排名第 6。
dialogue systemtask-oriented dialogueexternal knowledgedata constructionresponse generation
发现论文，激发创造
  • 多尺度负采样的外部知识选择学习

    本研究探索了多种高级技术，包括基于模式的知识决策、增强负例选择和基于知识的回答生成，利用外部知识资源来回答任务对话中 API/DB 无法覆盖的查询。在公共数据集上进行全面的实验后，本文提出的方法在 DSTC9 跟踪 1 中获得了最佳结果。

    Feb, 2021

  • 基于文档支持的任务型对话系统：HLTPR@RWTH 在 DSTC9 和 DSTC10 上的研究

    本文总结了我们在第 9 和 10 个对话系统技术挑战赛（DSTC9 和 DSTC10）的文档驱动对话任务中的贡献，包括知识选择，数据增强，响应生成和评估指标等领域。

    Apr, 2023

  • DSTC9 中基于任务的对话建模与非结构化知识访问跟踪的超越领域 API

    任务驱动的对话系统使用外部非结构化知识源来扩展任务领域 API 的覆盖范围，三个任务包括知识寻找、选择和响应生成，并用集成方法和大规模预训练语言模型取得了高性能。

    Jan, 2021

  • 使用数据增强和噪声通道模型将基于文档的对话系统适应为口语对话

    本文介绍了我们在第十届对话系统技术挑战赛第二轨知识引导的任务导向对话建模中的提交内容。在适应 ASR 转录的噪声方面探索不同的方法来使得模型更加健壮，并采用噪声通道模型来适应口语交流的风格。我们的最佳系统在挑战的自动和人工评估中分别排名第一和第三。

    Dec, 2021

  • 面向任务的对话中基于非结构化知识的高效检索增强生成

    本文总结了我们在第九届对话系统技术挑战赛（DSTC 9）第一轨中的工作，我们提出了一种基于层次分类和序列嵌入的检索和生成方法，以实现针对任务导向对话中利用非结构化文本信息的回答生成。

    Feb, 2021

  • 具有主观知识的任务导向对话建模

    本文提出了一个基于客户评论和 FAQ 的交互式对话模型，主要通过围绕知识检索、知识选择和响应生成的三个阶段进行改进。我们主要针对知识选择模块的改进以提高整个系统的性能，我们提出了实体检索方法，其中基于命名实体识别的实体检索方法的搜索速度比基准模型提高了 7 倍。除此之外，我们还探索了一个关键词提取方法，该方法可以提高知识选择的准确性，初步结果显示知识选择任务的准确匹配得分提升了 4%。

    Mar, 2023

  • 可以提供进一步帮助吗？使用非结构化知识访问来改善任务导向的对话建模

    本研究针对限定领域 API 的局限性，采用一种基于查询 - 选择 - 回应的方法，引入了外部非结构化知识资源，通过对话上下文信息的提取和增强实现了对超出 API 覆盖范围用户请求的响应，并在 DSTC9 Track 1 基准数据集上实现了全自动和人工评估的最优性能，验证了我们的贡献的有效性。

    Jun, 2021

  • 基于半监督学习的面向知识检索任务的对话系统

    提出一种基于检索的方法，以加强 TOD 系统中的知识选择，并结合半监督学习进行潜变量模型，该模型可以与知识检索器一起利用有标签和无标签的对话数据。实验证明，该方法在有标签和半监督设置下均优于传统的数据库查询方法。

    May, 2023

  • 面向口语对话的任务导向对话建模的通用模型

    本文介绍了我们在 DSTC-10 上构建对话模型的方法。为缩小口头和书面数据之间的差距，我们采用了大量数据扩增策略，包括人工误差注入和文本转语音转换。我们改良了预训练语言模型，并对每个子任务应用了集成算法，以训练稳健的口头对话模型。我们的方法在官方评估中排名第三，在最终的正式人类评估中排名第二。

    Mar, 2022

  • 以任务为导向的对话系统作为自然语言生成

    本文提出了一种基于大规模预训练模型（如 GPT-2）的任务驱动对话系统纯自然语言生成任务，以简化复杂的词语替换处理，但是直接使用会遇到对话实体不一致性和预训练模型精调时的灾难性遗忘问题，因此我们设计了一种新的 GPT-Adapter-CopyNet 网络，它将轻量级 adapter 和 CopyNet 模块融入 GPT-2，以实现更好的迁移学习和对话实体生成，而且实验结果表明，我们的方法在自动和人类评估方面的性能显著优于基线模型。

    Aug, 2021