EMNLPNov, 2023

对话生成器：基于上下文的、从文本资源中生成对话型问答数据集

PDF
TL;DR为了解决 Conversational question answering (ConvQA) 中的数据稀缺问题，我们提出了一种名为 Dialogizer 的新型框架，能够从文本源自动生成具有高上下文相关性的 ConvQA 数据集。框架中结合了两种训练任务：question-answer matching (QAM) 和 topic-aware dialog generation (TDG)。在推理阶段，基于生成的问题的上下文相关性进行重排。通过使用多个领域的文档作为主要来源，使用我们的框架，我们生成了四个 ConvQA 数据集。通过多样化指标的自动评估以及人工评估，我们验证了我们提出的框架相较于基线对话修复模型具有更高质量的数据集生成能力。
发现论文，激发创造
  • 对话修复：将文档转化为对话

    提出一种通过生成 dialog 数据来解决 ConvQA 系统缺乏训练数据的问题的技术 --dialog inpainting，并将其应用于来自维基百科和互联网的篇章中，生成了两个数据集：WikiDialog 和 WebDialog，共 19m 条对话数据，相对于现有数据集增加了 1000 倍，进而预训练 ConvQA 检索系统，在三个基准测试中（QReCC，OR-QuAC，TREC CAsT）实现了显著提升，最高可达 40%。

    May, 2022

  • 利用问答数据集来改进生成型数据增强

    本论文提出 CONDA 方法以生成虚拟数据，并通过将结构放在 QA 对上并使用 QA 数据集来训练上下文生成器来进一步提高生成语言模型的能力，通过将下游任务转化为相同的问答格式并调整上下文生成器适应目标任务域，使用精调的生成语言模型生成相关上下文，这些上下文作为相应任务的虚拟训练数据，在多个分类数据集上进行实验，显示出在几乎零样本和少样本设置中的性能显着改进，分析表明要求高级推理能力的 QA 数据集（例如，抽象和常识 QA 数据集）在几乎零样本和少样本设置中都能显着改进性能。

    May, 2022

  • 利用自动回复分割从无标记文档中合成对话

    通过学习对话任务数据的分割而不是使用句子边界的分割方法，我们提出了一种强大的对话合成方法，通过该方法生成的合成数据集在机器和人员评估中表现出优越的质量，同时在 ConvQA 检索系统预训练中使用我们的填充数据，观察到 OR-QuAC 基准测试数据的显著提升。

    Jun, 2024

  • QAConv：信息交流的问答

    该研究介绍了 QAConv，这是一个新的基于对话的问题回答（QA）数据集，通过长、复杂、异步和涉及强领域知识的信息型对话提供了一个新的训练和评估测试平台来促进 QA 在对话研究中的应用。

    May, 2021

  • 异构数据源中的会话式问答

    本研究提出了 CONVINSE，一种面向杂多数据源的对话问答系统，对来自知识库、文本和表格等多种异构数据源相应回答问题，并通过构建 ConvMix 基准测试平台，验证了该系统的优越性能。

    Apr, 2022

  • q2d：从问题到对话，训练模型学习搜索

    该论文介绍了一种自动生成基于搜索查询的对话数据的机器学习方法，通过使用大型语言模型生成问题回答数据集，学习如何与外部搜索 API 通信，以生成具有上下文的搜索查询，从而改善对话系统的回答效果。

    Apr, 2023

  • 带有答案修正的对话式问答数据集生成

    本论文介绍了一种利用输入段落生成大规模对话问答数据集的新型框架，该框架从段落中提取值得询问的短语，根据先前的对话生成相应的问题，并在生成问题后修订所提取的答案，从而显著提高合成数据的质量。实验结果表明，我们的简单答案修订方法可以带来显著的改进，并且我们证明了我们的框架可以有效地用于对话问答的领域自适应。

    Sep, 2022

  • 基于上下文关注机制的口语会话问答知识转移

    该研究提出了一种名为 CADNet 的方法，该方法使用上下文化注意力分层蒸馏技术，从而在 SCQA 任务中更好地抵御 ASR 噪声，最终在 Spoken-CoQA 数据集上实现了显著性能提升。

    Oct, 2020

  • 提升问题生成的上下文捕获能力

    本文旨在通过运用多阶段关注机制和序列到序列模型，在长文档的背景下产生更真实的问题，结果表明在 SQuAD、MS MARCO 和 NewsQA 三个问答数据集上，该方法优于现有方法。

    Oct, 2019

  • 面向任务导向对话系统的语境数据增强

    我们开发了一种新型的对话扩充模型，通过完整的对话上下文生成用户的回合，并通过语言模型的新提示设计和输出重新排序，所生成对话可直接用于训练下游对话系统，在常见的基准数据集 MultiWoZ 和 SGD 上，展示了我们的对话扩充模型生成高质量对话并使对话成功率较基准线提高多达 8%。

    Oct, 2023