低资源多领域对话生成的统一数据增强框架

KDDJun, 2024

低资源多领域对话生成的统一数据增强框架

A Unified Data Augmentation Framework for Low-Resource Multi-Domain Dialogue Generation

Yongkang Liu, Ercong Nie, Zheng Hua, Zifeng Ding, Daling Wang...

TL;DR我们提出了一种用于多领域对话生成的新型数据增强框架 AMD2G，它由数据增强过程和两阶段训练方法组成，域无关训练旨在使模型学习共同的表达模式，然后通过域自适应训练来调整学到的域无关特征到目标域。实验证明，与直接在目标域语料上训练和在所有五个域上进行集合训练相比，AMD2G 能够在五个不同领域的中文对话数据集上取得更优异的性能。

Abstract

Current state-of-the-art dialogue systems heavily rely on extensive training datasets. However, challenges arise in domains where domain-specific training datasets are insufficient or entirely absent. To tackle this challenge, we propose a novel data \textbf{A}ugmentation framework for

dialogue systems data augmentation multi-domain dialogue generation domain-agnostic training domain adaptation training

发现论文，激发创造

多领域神经网络语言生成器用于口语对话系统

本研究提供了一种训练多领域、基于递归神经网络的语言生成器的程序，包含了多个适应步骤，并利用伪造数据和领域内句子的优化目标函数，旨在在新的、看不见的领域内显著减少培训的数据需求，其语料库评估结果和主观测试都表示该程序可以在保证 BLEU 分数和槽误差率竞争力的同时大幅提高语言生成器性能。

Mar, 2016

通过元学习实现领域自适应对话生成

提出了基于元学习的领域自适应对话生成方法（DAML），该方法基于单域对话数据和元学习算法进行训练，并能够在新领域中学习出一种具有竞争力的对话系统。在模拟对话数据集上评估该方法的表现，实现了最先进的性能，该性能可推广到新任务。

Jun, 2019

领域无关的互助自适应方法用于无监督领域适应

利用大规模预训练视觉 - 语言模型的知识进行领域不可知的相互提示，通过互相对齐视觉和文本嵌入来利用领域不变的语义，并通过语义一致性损失和实例差异对齐损失进行规则化，实验证明 Domain-Agnostic Mutual Prompting（DAMP）相较于现有方法在三个无监督领域自适应基准上具有优势。

Mar, 2024

深度领域泛化的多组分图像转换

通过生成对抗网络生成的合成数据和应用 DA 方法到 DG 场景的协议，作者提出了两种方法来解决领域泛化挑战，并在四个跨领域基准数据集上进行了大量实验。实验结果表明，所提出的模型在 DG 方面优于当前最先进的方法。

Dec, 2018

基于增强的域泛化用于语义分割

本研究系统地研究了简单、基于规则的图像增强方法（如模糊、噪声、色彩抖动等）对深度神经网络（DNNs）的领域内外泛化能力。实验结果表明，对多个不同的图像增强进行组合优于单独使用单个图像增强，并且与最先进的领域泛化方法相比表现相当。

Apr, 2023

相关感知的敌对域自适应和泛化

本文提出了一种基于相关性感知的对抗式 DA 和 DG 框架，将源数据和目标数据的特征最小化，通过关联对齐模块和对抗学习来实现更加领域无关的模型，并在基准数据集上进行的实验证明了我们提出的方法的最新效果得到了改善。

Nov, 2019

低资源开放领域对话生成的可控且多样化的数据增强

利用大规模语言模型 (LLM) 进行以摘要为基础的对话增强 (SDA) 以提高语义多样性和控制能力，通过生成高质量和多样化的对话数据来增强开放领域对话模型的性能。

Mar, 2024

低资源语言中以文本为基础的对话系统的跨语言数据增强

本论文提出了一种新框架，利用高资源语言来增强低资源语言的对话生成能力，并通过跨语言增强模型（CLEM）来解决 DGDS 中数据稀缺的问题，包括对抗训练检索，翻译训练和融合生成技术。该方法在 DialDoc 2023 竞赛中获得第四名，表明该模型在跨语言对齐任务中具有很好的效果。

May, 2023

用于低资源领域任务的检索增强数据增强

提出了一种新的方法，通过将其他数据集中的丰富示例与给定的训练数据结合起来，通过在原始和检索的样本之间的上下文信息中促使大型语言模型生成新的样本，以增加训练数据的多样性和相关性，在低资源环境中实现了比现有大型语言模型数据增强基线更好的性能。

Feb, 2024

现代希腊语语音识别无监督域自适应的样本效率研究

本文提出了基于源域自监督的 M2DS2 策略用于大型预训练语音模型的微调，并在希腊语 ASR 系统中测试表现，结果显示相比其他基准线算法，M2DS2 在跨域适应中具有显著优势。

Dec, 2022