数据增强已死，数据增强万岁

Feb, 2024

Data Augmentation is Dead, Long Live Data Augmentation

Frédéric Piedboeuf, Philippe Langlais

TL;DR在这篇论文中，我们挑战了传统数据增强方法的有效性，并表明经过更多时间的微调可以抵消数据增强的效果。我们还展示了零和少量数据生成方法通过对话代理（如 ChatGPT 或 LLama2）可以提高性能，从而总结出这种形式的数据增强仍然有效，即使传统方法不起作用。

Abstract

textual data augmentation (DA) is a prolific field of study where novel techniques to create artificial data are regularly proposed, and that has demonstrated great efficiency on small data settings, at least for text classification tasks. In this paper, we challenge those results, sho

textual data augmentation fine-tuning text classification tasks data generation conversational agents

发现论文，激发创造

对话人工智能的数据增强

对话系统中的数据扩充方法提供了关键的方法来解决数据稀缺问题，并探讨了对话系统中的生成、评估等任务中的挑战与未来方向。

Sep, 2023

重新思考文本数据增强的有效性：一个实证分析

本文研究评估了三种不同的微调方法在七种不同的自然语言处理任务中的效果，结果表明数据增强可以有效提高微调后的模型性能，特别是在少样本学习任务中，持续的预训练可以将性能提高 10% 以上。

Jun, 2023

自然语言处理中的数据增强方法综述

本文综述了数据增强的三个类别：释义、加噪和采样，以及在 NLP 中的应用和挑战。

Oct, 2021

文本分类数据增强调查

本文旨在提高机器学习分类系统的泛化能力，通过对数据进行转换的方式来人工创建训练数据，从而增强数据的多样性，该文章就在「文本分类」中，对数据增强方法及其应用目标做了详细概述与分类，最终针对相关领域，提出建设性思路方向。

Jul, 2021

低资源神经机器翻译中数据增强的再思考：多任务学习方法

本文提出了一种基于多任务学习的数据增强方法，通过将目标句子的顺序进行颠倒等操作，产生不流畅的目标句子，作为辅助任务使用以加强编码器和强制解码器更多地关注源表示。在六个低资源翻译任务上的实验证明，该方法相对于以扩展经验数据分布为目标的传统数据增强方法，可以在提高翻译质量的同时提高翻译系统的鲁棒性和抗干扰性。

Sep, 2021

比较数据增强方法对于端到端任务导向型对话系统的效果

在任务导向型对话系统中，通过数据增强方法在端到端设置下进行实证评估，证明了所有考虑的数据增强方法都是有益的，并提供了最佳方法和实践建议，同时引入了一个更具挑战性的少样本跨领域任务导向型对话系统的设置。

Jun, 2024

FlipDA: 有效稳健的数据增强技术，用于少样本学习

本研究探索在硬任务（即少样本自然语言理解）和强基线（即超过 10 亿参数的预训练模型）上进行数据增强。通过生成模型和分类器共同生成标签翻转数据的新方法 FlipDA，该方法能够提高任务的有效性和稳健性。

Aug, 2021

生物医学事实型问题回答的数据增强

本文研究七种数据扩增方法在事实型问题回答中的作用，着重于生物医学领域以及数据难以获得的情况。作者从 BioASQ 挑战赛中获取数据，然后通过人工智能技术和其他方法进行扩增。实验证明，即使在使用大型预训练模型时，数据扩增也会带来非常显著的性能提升，其中以基于 word2vec 的词汇替换为最佳方法。作者最终公开了其代码和人工训练数据集。

Apr, 2022

DAGAM: 数据生成与修改的数据增强方法

本研究介绍了三种自然语言数据增强方法，包括基于生成模型的数据增强 (DAG)、使用文本修改技术的数据增强 (DAM) 以及结合 DAG 和 DAM 技术的数据增强 (DAGAM)，研究表明这些方法能够在六个文本分类基准数据集上提高模型性能，而与原始数据集相比，使用 BERT 微调技术的结果更好。

Apr, 2022

数据增强是否导致正边界？

本文通过量化数据增广在经验风险最小化中所起的作用，分析了其对模型的鲁棒性的提升能力，并在对某些模型进行实验后，对数据增广的有效性作出了一定程度的解释。

May, 2019