本文提出了一种名为 TransMix 的混合标签方法，基于 ViT 的注意力图混合标签，这种方法不需要引入额外的参数和 FLOP，并且在不同的基于 ImageNet 数据集的分类任务中都能够显著提高 ViT 的性能以及在语义分割，目标检测和实例分割上的迁移能力，同时在 4 种不同数据集的评估中也表现得更加稳健。

Nov, 2021

本文提出了一种名为 TokenMix 的数据增强技术，它在令牌级别上混合两个图像，通过将混合区域分区成多个独立的部分来实现，其适用于更好地训练视觉变换器，同时根据预训练的 teacher 模型的内容基础神经激活映射分配目标分数，增强了其稳健性和性能。

Jul, 2022

AttentionMix 是一种基于注意力的新混合方法，适用于自然语言处理领域，通过评估在三个标准情感分类数据集上的表现，证实了基于注意力的信息在数据增强中的有效性。

Sep, 2023

本文提出了一种名为 PMTrans 的模型，从博弈论的角度解决了视觉转换器在挑战性无监督领域自适应（UDA）任务中的问题，通过提出一种基于 ViT 的模块 ——PatchMix 的方法来有效地建立中间域，并利用特征和标签空间中的两个半监督 mixup 损失将它们最小化，以此将源域和目标域相连，以实现最大化交叉熵。通过这样做，我们将 UDA 的过程解释为由特征提取器、分类器和 PatchMix 组成的三方最小 - 最大交叉熵游戏，以找到纳什均衡，并利用 ViT 的注意力图重新加权每个补丁的标签，以获得更多的域辨别特征表示。经过对四个基准数据集的广泛实验，结果表明，PMTrans 在 Office-Home 上超过了 ViT 和 CNN 等最先进的方法 3.6％，在 Office-31 上超过了 1.4％，在 DomainNet 上超过了 17.7％。

Mar, 2023

数据增强通过合成更多的训练样本提高深度学习模型的泛化能力。TransformMix 是一种自动化方法，通过应用学习到的变换和混合扩增策略来创建具有正确和重要信息的混合图像，从而提高性能。

Mar, 2024

Self-supervised Multi-modal Contrastive Learning (SMCL) 模型通过整合视觉和语言模态，使现代视觉 - 语言预训练（VLP）模型在无监督学习方面取得显著的进展。然而，由于网络采集的文本 - 图像对中存在噪声问题，在 SMCL 模型中增加训练数据量会带来相当大的计算成本和数据效率问题。为了提高 VLP 模型的数据效率，我们提出了 Text-aware Image Mixing（TiMix）方法，将基于混合的数据增强技术应用到 SMCL 模型中，能够在显著提升性能的同时，不会显著增加计算开销。我们从互信息（MI）的角度对 TiMix 进行了理论分析，表明混合的数据样本能够隐式地作为对比损失的正则化器。实验结果表明，与现有方法相比，即使减少了训练数据量并缩短了训练时间，TiMix 在下游任务上表现出了可比较的性能。该研究从实证和理论上证明了数据混合在数据高效和计算可行的 VLP 中的潜力，为 VLP 模型在实际场景中的广泛应用带来了好处。

Dec, 2023

本文提出了一种名为 TL-Align 的方法， 通过追踪转换后的令牌与原始令牌之间的对应关系有效地解决了数据混合策略中的令牌波动现象，提高了 ViTs 在图像分类，语义分割，客观检测和迁移学习任务方面的性能。

Oct, 2022

通过研究发现，基于图像显著性信息的数据混合并不一定对增强性能有太大帮助，采用更有效、更易于实现的 ResizeMix 方法进行数据混合比 CutMix 和基于显著性信息的方法更具优势。

Dec, 2020

IPMix 提供了一种简单且可用于提高神经网络的鲁棒性的数据增强方法，通过整合图像级、补丁级和像素级三层数据增强，并引入结构复杂性和随机混合方法以扩大训练数据的多样性，实现在多个评估参数上的优越性能。

Oct, 2023

使用数据增强方法 MixUp 来改善远程任务模板的不足，使模型效率提高并在少样本学习上实现更好的表现。

Apr, 2023