May, 2023

ShuffleMix：通过通道洗牌插值隐藏状态来提高表征

PDF
TL;DR本文提出了 ShuffleMix 概念，将 Mixup 样式数据增强算法中的 dropout 策略引入到特征空间。与 Manifold Mixup 相比，ShuffleMix 在单标签和多标签视觉分类任务上表现更优。
mixup style data augmentationrepresentation learningshufflemixdropoutvisual classification
发现论文，激发创造
  • 混合流形学习：通过插值隐藏状态获得更好的表示

    Manifold Mixup 是一种正则化方法，有助于训练神经网络在多个隐藏层级别上具有更平滑的决策边界，并提高其对单步对抗攻击的鲁棒性和测试日志似然率。

    Jun, 2018

  • 混合样本对特征学习的益处

    本文研究数据增强方法 Mixup 的原理，从特征学习的角度解释了 Mixup 方法的优越性，并提出在早期训练阶段应用早停止技术以提高训练效果。

    Mar, 2023

  • AlignMixup：通过插值对齐特征来改进表征

    介绍了一种名为 AlignMix 的新型混合方法，通过在特征空间中几何对齐两个图像，从而使混合方法保留一个图像的几何特征和另一个图像的纹理，提高了表示学习效果。

    Mar, 2021

  • MSMix：一种基于插值的文本数据增强方法：流形交换 Mixup

    提出了一种简单而有效的插值数据增强方法 MSMix，并在三个中文意图识别数据集上进行了实验，结果表明该方法在全样本和小样本配置下均取得了比其他方法更好的结果。

    May, 2023

  • 混合增强与多种插值

    在本文中，我们提出了一种称为多重揉混（multi-mix）的简单而有效的扩展方法，它通过从样本对生成多个插值样本，可以比标准 mixup 更好地引导训练过程，从而在泛化性能、鲁棒性和校准度方面超过了各种 mixup 变体和非 mixup 基线。

    Jun, 2024

  • MixUp 作为局部线性域外正则化

    本文提出混合增强数据方法 MixUp 的一种新的视角 ——“out-of-manifold regularization”，并发现了其存在的 “manifold intrusion” 问题，提出了一种新的自适应正则化方法 AdaMixUp，并通过实验验证了 AdaMixUp 的优越性。

    Sep, 2018

  • 全局混合：通过聚类消除歧义

    提出基于全局聚类关系的新型数据扩增方法 ——Global Mixup，其中通过将先前的一阶段扩增过程分解为两阶段，从而将生成虚拟样本的过程与标记过程分离，并根据生成样本的全局关系计算子集对生成样本的标签重新标记，从而在更大的采样空间中生成更可靠的虚拟样本。在 CNN、LSTM 和 BERT 上的五项任务的广泛实验表明，Global Mixup 明显优于现有最新技术基线。

    Jun, 2022

  • 动态混洗：一种高效的信道混合方法

    卷积神经网络中的冗余性不仅取决于权重，还取决于输入。为了减少数据依赖性的冗余，我们设计了一个动态混洗模块，用于生成用于混洗的数据相关置换矩阵。实验证明，我们的方法显著提高了 ShuffleNets 的性能，并且可以作为普通逐点卷积的轻量级替代。

    Oct, 2023

  • AutoMix: 揭示 Mixup 的强大分类器之力

    该论文提出了一种自动混合框架 ——AutoMix，它将混合分类分为两个子任务，并使用相应的子网络在双层优化框架中解决。AutoMix 在 9 个图像基准上的广泛实验表明，在各种分类场景和下游任务中，其优越性超过了现有技术。

    Mar, 2021

  • 利用中点混合在多视角数据中可以实现可证明学习多样性特征

    该论文介绍了 Mixup 数据增强技术在图像分类方面的应用，从特征学习的角度解释了其成功的原因，并提供了实验证据支持其理论分析，证明其在处理具备多种特征的分类问题时效果良好。

    Oct, 2022