EMNLPSep, 2021

Text AutoAugment: 学习文本分类的组合增强策略

PDF
TL;DRText AutoAugment 是一种数据增强方法，通过贝叶斯优化算法自动寻找最佳组合操作作为增强策略应用于训练数据。该方法显著提高了模型的泛化能力，并在六个基准数据集上表现突出，特别是在低资源和类不平衡情况下，相应的分类准确率平均分别提高了 8.8% 和 9.7%。
data augmentationlow-resourceclass-imbalancedtext autoaugmentbayesian optimization
发现论文，激发创造
  • 通过测试时间增强来改进文本分类

    本文提出了一种改进的测试时间增强技术并设计出相应的增强策略，结果表明用于语言模型上的测试时间增强可以显著提高模型的准确性。

    Jun, 2022

  • 文本分类数据增强调查

    本文旨在提高机器学习分类系统的泛化能力，通过对数据进行转换的方式来人工创建训练数据，从而增强数据的多样性，该文章就在「文本分类」中，对数据增强方法及其应用目标做了详细概述与分类，最终针对相关领域，提出建设性思路方向。

    Jul, 2021

  • 对话任务自动学习数据增强策略

    通过自动化数据增强方法 AutoAugment, 本文实现了可用于自然语言处理任务的优化扰动操作，并且在对话生成等任务中取得了显著的性能提升。

    Sep, 2019

  • 通过全局增强方法提高短文本分类效果

    本文研究了不同的文本扩充方法在分类应用中的影响，通过使用包括社交媒体和新闻文章在内的三个数据集，我们发现基于 Word2vec 的文本扩充是一种可行的选择，并且使用 mixup 可以进一步提高性能，并降低过拟合的影响。同时，通过翻译服务进行往返翻译的效果不如其他方法好，并且成本较高，适用性较差。

    Jul, 2019

  • 多标签文本分类的组合泛化：一种数据增强方法

    通过创建独特的数据集，评估现有多标签文本分类模型对复杂概念的组合泛化能力，在此基础上引入了数据增强方法，利用两种创新的文本生成模型提高分类模型对组合泛化的能力。实验证明，该数据增强方法显著提升了分类模型在我们的基准测试中的组合泛化能力，两种生成模型均超过了其他文本生成基准。

    Dec, 2023

  • AutoAugment: 从数据中学习增强策略

    本文介绍了一种自动搜索图像数据增强策略，使用神经网络在目标数据集上产生最高准确性，并在 CIFAR-10，CIFAR-100，SVHN 和 ImageNet 数据集上实现了最先进的准确性，同时找到的增强策略可在不同数据集间转移学习。

    May, 2018

  • 强化器还是滤镜？重新思考预训练语言模型在文本分类增强中的作用

    本研究提出 BOOSTAUG，这个基于预训练语言模型的文本增强方法重点在于增强实例过滤，而不是生成，解决现有文本增强方法中的性能下降和特征空间漂移等问题。结果表明，在句子级文本分类和基于方面的情感分类上，BOOSTAUG 均取得了最先进的性能，该方法是灵活的，可以改进现有的增强方法。

    Oct, 2022

  • AutoAugment 是您所需的：增强基于规则的增强方法在低资源环境中的应用

    本文提出了一种基于 AutoAugment 的方法来解决文本数据增强中的语义损害问题，并实验证明该方法可以改善现有的增强方法，并增强先进的预训练语言模型。

    Feb, 2024

  • 低资源表达文本朗读的分布增强

    本文介绍了一种新的数据增强技术，用于文本到语音的任务，能够生成新的（文本，音频）训练样本，而无需额外的数据。该方法可增加训练期间可用的文本条件的多样性，有助于减少过拟合，特别是在低资源环境下。我们将文本和音频段进行替换以确保语法正确性，并采取额外措施确保合成的语音不含有由于组合不一致的音频样本而导致的伪影。感知评估结果表明，我们的方法改善了许多数据集、说话人和 TTS 体系结构的语音质量，并能大大提高基于注意力的 TTS 模型的鲁棒性。

    Feb, 2022

  • 探索社交媒体语料库上的数据增强方法

    本研究探索了数据增强技术对文字分类的影响，使用多种数据增强技术，包括过采样、易用数据增强、反向翻译、灰度缩放以及一种少样本学习的方法 PTE。结果表明，数据增强技术对模型性能只有轻微且不一致的改进，少数同义词替换可以提高模型性能，灰度缩放需要进一步研究，PTE 的表现优于监督学习，尤其是在类别容易分离的情况下。

    Mar, 2023