Apr, 2022

在低资源环境中使用合成数据进行对话响应生成

PDF
TL;DR本研究发表了名为 PEx Conversations Dataset 的第一个菲律宾会话数据集，并介绍了使用 Tagalog RoBERTa 模型增加现有 corpora 大小的数据增强方法，最后发布了能够生成相关前三个回复的第一个菲律宾会话响应生成器，并成功地将合成数据与人类数据结合使响应生成器的性能提高了 12.2％。
response generationconversational response generatorsfilipino conversational datasetdata augmentationtagalog roberta model
发现论文，激发创造
  • 近期对话数据生成的研究进展综述

    对多轮对话数据生成进行了系统综述，包括开放领域对话系统、任务导向对话系统和信息搜索对话系统，提出了一个概括对话数据生成系统主要原则的通用框架，并探讨了合成对话数据的评估指标和方法、当前领域的挑战以及未来研究的潜在方向。

    May, 2024

  • PLACES：用于社交对话综合的激励语言模型

    使用专家编写的少量对话作为上下文示例，通过提示生成社交对话数据集，可在多方交流任务中创建更多的合成数据。与人类收集的对话相比，合成的多方交流在所有度量维度上都获得了更多的好评。

    Feb, 2023

  • 借助大语言模型生成忠实的以人为基础的对话数据集

    通过建立 Generator-Critic 架构，使用 LLM 生成会话，借助 Synthetic-Persona-Chat 评估了高质量对话数据集对 NLP 模型的影响。

    Dec, 2023

  • 非自然语言处理：弥合合成语言与自然语言数据之间的差距

    通过 “模拟到真实” 的技术，本文提出通过合成数据生成程序与训练能够准确解释这些合成数据的模型，再利用学习到的句子嵌入来定义距离度量，从而实现将自然语言映射到合成数据集的支撑上，训练出只使用合成训练数据的自然语言处理模型，其在多个领域的表现已经与使用自然语言数据训练的最先进的模型相匹配或超越。

    Apr, 2020

  • 使用合成数据训练问答模型

    通过利用大型语言模型，研究了模型大小、预训练模型的质量、合成数据的规模和算法选择等多个因素，缩小了人工和合成问题 - 答案对之间的差距。该研究通过模型生成的数据，在 SQuAD 数据集上实现了良好的准确率，并在 SQuAD2.0 上显示出优于以前的工作的结果。

    Feb, 2020

  • 合成数据是否使得大型语言模型更高效？

    本文探讨了在自然语言处理中合成数据生成的细微差别，重点放在基于模板的问题生成上，并比较了其优点和局限性，最后通过实证评估展示了基于模板的合成数据对现代转换器模型性能的影响。研究结果旨在指导自然语言处理从业者在利用合成数据的潜力上，确保在多种应用中获得最佳模型性能。

    Oct, 2023

  • 利用释义生成快速启动对话系统

    该研究提出了一种基于改写生成的方法，可以减少创建新对话代理所需要的时间和成本，同时提高其性能，使其能够实际与真实用户进行交互。实验证明该方法提高了意图分类模型的泛化能力，有助于在组织范围内规模化部署这项技术。

    Apr, 2022

  • 利用自动回复分割从无标记文档中合成对话

    通过学习对话任务数据的分割而不是使用句子边界的分割方法，我们提出了一种强大的对话合成方法，通过该方法生成的合成数据集在机器和人员评估中表现出优越的质量，同时在 ConvQA 检索系统预训练中使用我们的填充数据，观察到 OR-QuAC 基准测试数据的显著提升。

    Jun, 2024

  • 低资源语音识别的语音合成数据增强

    本研究旨在提出一种新的数据增强方法来改善自动语音识别模型，该方法生成合成文本和合成音频，使用该方法可以提高 Quechua 语言的 ASR 模型的词错误率（WER）达到 8.73％的改善。

    Apr, 2022

  • 零样本跨语言问答的合成数据增强

    本研究提出了一种方法来改善跨语言问答的表现，利用问答生成模型以跨语言的方式生成合成数据，无需额外标注数据，并展示了在四个多语言数据集上的表现显著优于仅使用英文数据的基线模型，创造了新的最优性能水平。

    Oct, 2020