May, 2019

使用 Mixup 增强数据进行句子分类：一项实证研究

PDF
TL;DR本文提出了 Mixup 数据增强方法在句子分类中的应用策略，并在多个基准数据集上进行了实验验证，结果表明该技术是一种有效的、领域无关的数据增强方法，可使 CNN 和 LSTM 模型的预测准确性显著提高。
mixupdata augmentationnatural language processingsentence classificationembedding
发现论文，激发创造
  • Mixup-Transformer：NLP 任务的动态数据增强

    本文尝试将最新的数据增强技术 Mixup 应用于自然语言处理领域，特别是在与 NLP 相关的 transformer-based 学习模型中。实验结果表明，Mixup 在预训练的语言模型中是一个独立于领域的数据增强技术，能够显著提高其性能。

    Oct, 2020

  • LINDA：自然语言处理中的无监督插值学习

    本文提出了 ANI 算法，一种基于深度神经网络结构的无偏估计方法，解决了近邻法无法处理高维数据的问题，并在 MNIST 数据集和图像分类任务上的表现优于传统的平均法。

    Dec, 2021

  • DoubleMix: 简单的基于插值的数据增强方法用于文本分类

    提出了一种名为 DoubleMix 的插值数据增强方法，通过合成的数据集和原始数据集在神经模型的隐藏空间中进行插值，以及学习隐藏空间中的 “偏移” 特征来提高模型的鲁棒性，在六个文本分类基准数据集上，该方法优于几种流行的文本增强技术，同时在低资源情况下也能保持性能的提升。

    Sep, 2022

  • AttentionMix: 借助 BERT 注意机制的数据增强方法

    AttentionMix 是一种基于注意力的新混合方法，适用于自然语言处理领域，通过评估在三个标准情感分类数据集上的表现，证实了基于注意力的信息在数据增强中的有效性。

    Sep, 2023

  • 混合增强与多种插值

    在本文中，我们提出了一种称为多重揉混（multi-mix）的简单而有效的扩展方法，它通过从样本对生成多个插值样本，可以比标准 mixup 更好地引导训练过程，从而在泛化性能、鲁棒性和校准度方面超过了各种 mixup 变体和非 mixup 基线。

    Jun, 2024

  • 全局混合：通过聚类消除歧义

    提出基于全局聚类关系的新型数据扩增方法 ——Global Mixup，其中通过将先前的一阶段扩增过程分解为两阶段，从而将生成虚拟样本的过程与标记过程分离，并根据生成样本的全局关系计算子集对生成样本的标签重新标记，从而在更大的采样空间中生成更可靠的虚拟样本。在 CNN、LSTM 和 BERT 上的五项任务的广泛实验表明，Global Mixup 明显优于现有最新技术基线。

    Jun, 2022

  • 混合样本对特征学习的益处

    本文研究数据增强方法 Mixup 的原理，从特征学习的角度解释了 Mixup 方法的优越性，并提出在早期训练阶段应用早停止技术以提高训练效果。

    Mar, 2023

  • SegMix：一种简单的结构感知数据增强方法

    提出了一种基于插值的数据增强算法 SegMix，该算法在具有任务特定结构的有意义的片段上进行插值，相比之前的方法在命名实体识别（NER）和关系抽取（RE）任务中表现更好，尤其在数据稀缺的情况下性能提升明显。

    Nov, 2023

  • 数据插值预测: Mixup 的替代解释

    提出了 Data Interpolating Prediction（DIP）框架，将样本混合过程与分类器的假设类封装在一起，从而使训练和测试样本受到平等对待，进而帮助降低 Rademacher 复杂度并减少泛化误差。DIP 在实证上表现比 Mixup 更优。

    Jun, 2019

  • 使用核变形函数为数据定制混合策略

    动态地改变插值系数的分布以通过变形函数混合相似数据点，提出了一种既高效又灵活的框架，这样做既不会损失多样性，又会提高模型的性能和校准性。

    Nov, 2023