Aug, 2022

使用迁移学习和拓扑数据分析进行对话术语提取

PDF
TL;DR本文通过探索来自词嵌入、语言模型功能以及词嵌入空间的拓扑特征等不同特征，实现了系统以纯数据驱动的方式在对话中发现领域、插槽和值的实现，并在 Schema-Guided Dialogue 数据集中取得了优异结果，结果表明这种方法对本体论归纳以及继续开发对话和自然语言处理研究具有重要意义。
goal oriented dialogue systemsknowledge extractiondata-driven fashionword embeddingstopological data analysis
发现论文，激发创造
  • 对话知识转移网络实现数据高效目标导向聊天

    该研究提出了一种基于少量无需标注对话实现目标导向对话生成的系统，实现了对话表示的自主学习，涉及到文本知识来源的多重训练，结果显示在使用了比原模型仅百分之十的数据时显著提高了实体识别和 BLEU 得分。

    Oct, 2019

  • 基于任务的对话中的结构提取：基于槽聚类的方法

    本文提出一种在面向任务的对话中提取结构化信息的方法，通过使用预训练模型检测和聚类可能的槽标记来逼近目标领域的对话本体，在此基础上推导出状态转移结构，实验结果表明这种方法在对话结构提取方面表现比无监督基线模型更好，此外，通过基于提取的结构进行数据增强可以大幅提高对话响应生成的性能。

    Feb, 2022

  • 对话领域适应的混合生成 - 检索 Transformer

    本文提出了基于 GPT-2 微调多领域 MetaLWOz 数据集的混合生成 - 检索模型，具有稳健、多样的响应生成能力，在领域自适应任务中取得了最优结果，并在适应未见过的 MultiWOZ 数据集时表现出竞争力的泛化性能。

    Mar, 2020

  • 通过领域整合来提高多方对话语篇分析

    本文介绍了一种 Transformer 模型，可以应用于多方对话语篇分析，并结合三种方法，实现跨领域数据泛化，以提高神经网络解析器在跨域对话样本中的表现。

    Oct, 2021

  • 面向任务导向对话的领域自适应 Prompt 学习

    本文研究了提高生产质量的面向任务的对话系统的设计的困难，提出了使用自然语言的轻量级语义表示 —— 规范形式作为用户意图分类的替代方法，并且展现了规范形式可以很好地泛化到新的、未知的域，在零次或少次样本学习中可以轻易实现，并且可以降低开发新的任务导向的对话域的复杂性和费用。

    Nov, 2022

  • 使用基于架构的提示的语言模型实现对话状态跟踪

    提出了一种新颖的基于预训练语言模型的任务驱动对话状态追踪方法，利用基于模式的提示和模式描述提高了性能，适用于多个基准测试（MultiWOZ 2.2、MultiWOZ 2.1 和 M2M），实现了最先进的性能。

    Sep, 2021

  • 以任务为导向的对话系统作为自然语言生成

    本文提出了一种基于大规模预训练模型（如 GPT-2）的任务驱动对话系统纯自然语言生成任务，以简化复杂的词语替换处理，但是直接使用会遇到对话实体不一致性和预训练模型精调时的灾难性遗忘问题，因此我们设计了一种新的 GPT-Adapter-CopyNet 网络，它将轻量级 adapter 和 CopyNet 模块融入 GPT-2，以实现更好的迁移学习和对话实体生成，而且实验结果表明，我们的方法在自动和人类评估方面的性能显著优于基线模型。

    Aug, 2021

  • 多语言任务导向对话的情境语义解析

    通过机器翻译自动翻译对话数据集并使用新的上下文语义解析模型，该方法在多个数据集上提高了准确性并创建了高准确度的多语言对话数据集。

    Nov, 2021

  • 可迁移的对话系统和用户模拟器

    通过对话系统和用户模拟器之间的交互，开发了一种建模框架，旨在通过自动对话场景的创建来解决训练数据不足的问题，并使用强化学习来改进智能体的行为，从而在转移学习中提高对话系统性能。

    Jul, 2021

  • 语言模型作为标注工具：探索使用 DialoGPT 进行对话摘要

    本文介绍如何利用 DialoGPT 提供未标注的语料，作为无监督对话注释器，来对两个对话概括数据集 SAMSum 和 AMI 进行标注，使用 DialoGPT 进行标注取得了很显著的成果，并在 SAMSum 数据集上取得了新的最先进水平。

    May, 2021