STA: 自控文本增强提高文本分类

Feb, 2023

STA: Self-controlled Text Augmentation for Improving Text Classifications

Congcong Wang, Gonzalo Fiz Pontiveros, Steven Derby, Tri Kurniawan Wijaya

TL;DR介绍了一种自我控制的文本增强方法（Self-Controlled Text Augmentation - STA），该方法可以控制样本的语义内容，对比现有技术在多个数据集上实验表明 STA 的性能显著优于现有技术，并且生成的样本词汇多样性高，语义可靠。

Abstract

Despite recent advancements in machine learning, many tasks still involve working in low-data regimes which can make solving natural language problems difficult. Recently, a number of text augmentation techniques

natural language processing machine learning text augmentation self-controlled text augmentation semantic content

发现论文，激发创造

自我训练与任务增强的少样本学习方法 - STraTA

STraTA 提出了一种新方法，即自训练 + 任务增强，通过任务增强技术和伪标记的数据进行自训练，以在少样本情况下有效提高预训练语言模型的效率。实验证明，STraTA 方法可以在 12 个少样本基准测试中显著提高样本效率。

Sep, 2021

基于词语角色的有选择性文本增强技术在低资源文本分类中的应用

本文提出一种名为 STA 的基于单词角色进行选择性文本增强的技术，通过选取适当的词角色生成多样性和相对干净的样本，证明 STA 能够成功地提高分类模型的性能，并在跨数据集实验中表现得比以前的方法更好。

Sep, 2022

智能人工代理数据增强的可控文本生成

通过文本生成技术，使用编码器 - 解码器生成模型来增加受训人工智能代理的训练数据，从而实现更快地开发新功能。该方法需要直接优化，适用于有限的数据，并明显优于以往的受控文本生成技术。此外，生成的数据用作外在意图分类任务的附加训练样本，增强了低资源情况下高达 5％绝对 f-score 性能的表现，证实了该方法的实用性。

Oct, 2019

KDE 自训练：基于核距离的控制型文本生成的有效方法

本文提出了一种名为 KEST 的自训练框架，利用基于核的损失函数代替标准交叉熵来处理生成模型中的模式崩溃和多样性缺失等问题，进而提高半监督可控语言生成任务的表现。

Jun, 2023

Text AutoAugment: 学习文本分类的组合增强策略

Text AutoAugment 是一种数据增强方法，通过贝叶斯优化算法自动寻找最佳组合操作作为增强策略应用于训练数据。该方法显著提高了模型的泛化能力，并在六个基准数据集上表现突出，特别是在低资源和类不平衡情况下，相应的分类准确率平均分别提高了 8.8% 和 9.7%。

Sep, 2021

通过测试时间增强来改进文本分类

本文提出了一种改进的测试时间增强技术并设计出相应的增强策略，结果表明用于语言模型上的测试时间增强可以显著提高模型的准确性。

Jun, 2022

DuNST: 双重噪声自训练用于半监督可控文本生成

提出自我训练算法 DuNST，它通过一个变分自编码器共同建模文本生成和分类，利用两种柔性噪声打破生成的伪文本的限制，从而实现利用标签和非标记文本渐进式提高模型性能，应用于三个可控生成任务，显著提高控制准确性，并保持可比较的生成流畅性和多样性。

Dec, 2022

FAST: 基于反馈感知自训练的文本生成控制性改进

这篇论文针对控制文本生成算法中可能存在的潜在问题，利用因果推断技术发现了训练数据中的关联错误，提出通过倾向得分采样和反事实版本生成机制消除这些关联，实验结果表明该方法在生成性能和语言品质上都得到了显著提升。

Oct, 2022

SAT: 简单的实例自适应自训练提高半监督文本分类

本文提出了一种简单的实例自适应自训练方法 (SAT)，用于半监督文本分类。SAT 通过生成两个扩充视图来识别伪标签并用于模型训练，实验结果表明 SAT 方法具有竞争力的性能。

Oct, 2022

软件电子设计自动化：以软标签重构基于规则的数据增强

我们提出了一种简单直接的技术，通过应用软标签来改善基于规则的文本数据增强方法在自然语言处理任务中的性能。通过在七个不同的分类任务上进行实验，我们在经验证明了我们的方法的有效性，并公开了源代码以便复现。

Feb, 2024