本文提出了一种名为 TransMix 的混合标签方法，基于 ViT 的注意力图混合标签，这种方法不需要引入额外的参数和 FLOP，并且在不同的基于 ImageNet 数据集的分类任务中都能够显著提高 ViT 的性能以及在语义分割，目标检测和实例分割上的迁移能力，同时在 4 种不同数据集的评估中也表现得更加稳健。

Nov, 2021

本文提出了一种名为 TL-Align 的方法， 通过追踪转换后的令牌与原始令牌之间的对应关系有效地解决了数据混合策略中的令牌波动现象，提高了 ViTs 在图像分类，语义分割，客观检测和迁移学习任务方面的性能。

Oct, 2022

数据增强通过合成更多的训练样本提高深度学习模型的泛化能力。TransformMix 是一种自动化方法，通过应用学习到的变换和混合扩增策略来创建具有正确和重要信息的混合图像，从而提高性能。

Mar, 2024

本文提出了一种基于 Attentive CutMix 的图像分类数据增强策略，在训练过程中利用中间层的注意力图寻找最具有辨别度的图像区域，能够显著提高基于卷积神经网络的图像分类性能。

Mar, 2020

提出了一种新的数据增强方法 MixPro，结合了 MaskMix 和 Progressive Attention Labeling 技术，可以提高基于视觉变换器（ViT）的各种模型的性能，增强其鲁棒性和可迁移性。

Apr, 2023

WaveMix 是一种采用多尺度 2D 离散小波变换 (DWT) 进行空间令牌混合的替代神经架构，与卷积神经网络 (CNNs) 和 ViTs 相比，在多个数据集上表现出了与它们相当甚至更好的泛化性同时需要更少的计算和存储

Mar, 2022

通过研究发现，基于图像显著性信息的数据混合并不一定对增强性能有太大帮助，采用更有效、更易于实现的 ResizeMix 方法进行数据混合比 CutMix 和基于显著性信息的方法更具优势。

Dec, 2020

深度神经网络在工业制造环境中，数据增强成为了缓解过拟合和提升网络性能的关键策略。我们提出了一种针对工业应用和基准数据集的方法 ContextMix，通过调整图片大小并将其整合到批次中的其他图片中，生成新的数据。该方法在性能上超过了现有的增强技术，并在公共基准数据集上的分类、检测和分割任务中展示了改进的结果。在真实的工业环境中，我们的方法表现出了显著的效果，尤其是在被动元件数据集上。

Jan, 2024

提出了一种轻量级的 Dual Dynamic Token Mixer (D-Mixer) 来聚合全局信息和局部细节，通过在特征分段上分别应用高效的全局注意力模块和输入相关的深度可分离卷积，为网络赋予了强大的归纳偏差和扩大的有效感受野。使用 D-Mixer 作为基本构建块设计了 TransXNet，这是一个新颖的混合 CNN-Transformer 视觉主干网络，在 ImageNet-1K 图像分类任务中，TransXNet-T 在 top-1 准确率方面超过了 Swin-T 0.3％，同时仅需要不到一半的计算成本，此外，TransXNet-S 和 TransXNet-B 在合理的计算成本下表现出色，分别达到 83.8％和 84.6％的 top-1 准确率。此外，提议的网络架构在各种密集预测任务中表现出强大的泛化能力，优于其他最先进网络，同时计算成本较低。

Oct, 2023

本文提出了一种称为 DeMix 的方法，其利用 Detection Transformer 架构设计的图像对象检测模型 DETR 作为数据扩展器。通过精心选取语义信息丰富的图像区域，DeMix 显著地优于先前的数据增强方法 CutMix 的实验结果。

Apr, 2023