Jan, 2024

渐近中点混合：用于边际平衡和适度拓宽

PDF
TL;DR通过插值生成增强特征并逐渐将其移动到类间特征对的中点，提出了一种更好的特征增强方法。该方法具有两个效果：1）平衡所有类的间隔；2）在保持最大置信度的同时适度扩大间隔。在视觉上可视化表示来测量对齐和均匀性的折叠效应，验证了粗细粒度转移学习中的类内折叠效应和长尾数据集上的不平衡学习中的类间折叠效应。在这两个任务中，我们的方法表现优于其他增强方法。
representation learninginterpolation-based augmentation methodsintra-class collapsecoarse-to-fine transfer learningimbalanced learning
发现论文，激发创造
  • 利用中点混合在多视角数据中可以实现可证明学习多样性特征

    该论文介绍了 Mixup 数据增强技术在图像分类方面的应用，从特征学习的角度解释了其成功的原因，并提供了实验证据支持其理论分析，证明其在处理具备多种特征的分类问题时效果良好。

    Oct, 2022

  • AlignMixup：通过插值对齐特征来改进表征

    介绍了一种名为 AlignMix 的新型混合方法，通过在特征空间中几何对齐两个图像，从而使混合方法保留一个图像的几何特征和另一个图像的纹理，提高了表示学习效果。

    Mar, 2021

  • 混合样本对特征学习的益处

    本文研究数据增强方法 Mixup 的原理，从特征学习的角度解释了 Mixup 方法的优越性，并提出在早期训练阶段应用早停止技术以提高训练效果。

    Mar, 2023

  • 混合增强与多种插值

    在本文中，我们提出了一种称为多重揉混（multi-mix）的简单而有效的扩展方法，它通过从样本对生成多个插值样本，可以比标准 mixup 更好地引导训练过程，从而在泛化性能、鲁棒性和校准度方面超过了各种 mixup 变体和非 mixup 基线。

    Jun, 2024

  • 拓展边界：Mixup 对神经崩溃的影响

    混合增强是一种数据增强策略，通过训练实例及其标签的凸组合来增强深度神经网络的鲁棒性和校准性。本研究深入探讨了混合增强对深度网络训练数据最后一层激活的影响，发现其激活结果呈现独特的几何配置，揭示了混合增强增强模型校准的机制。同时进行理论分析，证明了对于特征模型不受约束的情况下，基于混合增强损失的分类器形成了一个简单的 ETF 的最优最后一层特征。

    Feb, 2024

  • 超越小批量、超越对以及超越示例的嵌入空间插值

    通过提出的 MultiMix 方法，在嵌入空间中生成任意数量的插值样本，扩大了 Mini-batch 的面积，从而显著提高了 Mixup 方法在四个不同基准上的效果。

    Nov, 2023

  • 无限类别混淆

    本文提出了一种名为 Infinite Class Mixup 的基于分类器混合的新型数据增广策略，通过对每个增广样本定义一个唯一的新分类器，而不是对训练对标签进行混合，使得神经网络能够更好地学习不同数据类之间的线性行为模式，并在多种模型上取得了较好的性能表现。

    May, 2023

  • 全局混合：通过聚类消除歧义

    提出基于全局聚类关系的新型数据扩增方法 ——Global Mixup，其中通过将先前的一阶段扩增过程分解为两阶段，从而将生成虚拟样本的过程与标记过程分离，并根据生成样本的全局关系计算子集对生成样本的标签重新标记，从而在更大的采样空间中生成更可靠的虚拟样本。在 CNN、LSTM 和 BERT 上的五项任务的广泛实验表明，Global Mixup 明显优于现有最新技术基线。

    Jun, 2022

  • 通过互补的内类和间类 Mixup 提高图像分类准确性

    提出一种综合的混合方法和综合解决方案，针对图像分类任务中的类内混合、类间可分离性和类内内聚性进行增强，实验结果表明，该方法相比于现有方法以及类似方法在分类准确性上具有显著提升。

    Mar, 2024

  • 公平的混合：插值促进公平

    该研究提出了公平混合（fair mixup）的新型数据增强策略，通过对分组间插值样本的正则化训练来实现分类器的公平性约束，并分析实验证明其在表格、视觉和语言测试中确保了更好的准确性和公平度的泛化能力。

    Mar, 2021