Mar, 2023

LossMix: 简化和泛化 Mixup 以用于目标检测和更多领域

PDF
TL;DR该研究提出了一种新的概念框架 —— 监督插值，通过松弛和概括 Mixup，可以有效地规范混合数据的训练，进而提出了一种名为 LossMix 的简单却灵活且有效的正则化方法，并设计了一种两阶段的域混合方法，借助 LossMix 超越了 Adaptive Teacher，并在无监督领域适应中有了新的突破。
data mixing augmentationsobject detectionsupervision interpolationlossmixunsupervised domain adaptation
发现论文，激发创造
  • 混合增强与多种插值

    在本文中，我们提出了一种称为多重揉混（multi-mix）的简单而有效的扩展方法，它通过从样本对生成多个插值样本，可以比标准 mixup 更好地引导训练过程，从而在泛化性能、鲁棒性和校准度方面超过了各种 mixup 变体和非 mixup 基线。

    Jun, 2024

  • SuperMix：混合数据增强的监督

    本文提出了一种监督式混合增强方法 SuperMix，使用牛顿迭代方法来提高效率，在对象分类和知识蒸馏任务中通过广泛的评估和消融研究验证了其有效性，将混合图像纳入蒸馏目标可显著提高结果。

    Mar, 2020

  • MetaMixUp: 使用元学习学习 MixUp 的自适应插值策略

    本文提出了一种名为 MetaMixUp 的数据增强方法，该方法通过在线元学习动态学习插值策略，可用于模型正则化、半监督学习和领域自适应，实验证明 MetaMixUp 比原始的 MixUp 和其变体在半监督学习配置下效果更好。

    Aug, 2019

  • 关于 Mixup 正则化

    本论文研究数据增广技术 Mixup 的理论基础，指出 Mixup 可被解释为标准经验风险最小化估计器，通过数据转换和随机扰动来实现。该方法在测试时能够提高分类器性能，同时还获得了自校准和有效的正则化效果，以防止过度拟合和过度自信的预测。

    Jun, 2020

  • ResizeMix：混合数据以保留对象信息和真实标签

    通过研究发现，基于图像显著性信息的数据混合并不一定对增强性能有太大帮助，采用更有效、更易于实现的 ResizeMix 方法进行数据混合比 CutMix 和基于显著性信息的方法更具优势。

    Dec, 2020

  • 全局混合：通过聚类消除歧义

    提出基于全局聚类关系的新型数据扩增方法 ——Global Mixup，其中通过将先前的一阶段扩增过程分解为两阶段，从而将生成虚拟样本的过程与标记过程分离，并根据生成样本的全局关系计算子集对生成样本的标签重新标记，从而在更大的采样空间中生成更可靠的虚拟样本。在 CNN、LSTM 和 BERT 上的五项任务的广泛实验表明，Global Mixup 明显优于现有最新技术基线。

    Jun, 2022

  • 数据插值预测: Mixup 的替代解释

    提出了 Data Interpolating Prediction（DIP）框架，将样本混合过程与分类器的假设类封装在一起，从而使训练和测试样本受到平等对待，进而帮助降低 Rademacher 复杂度并减少泛化误差。DIP 在实证上表现比 Mixup 更优。

    Jun, 2019

  • AlignMixup：通过插值对齐特征来改进表征

    介绍了一种名为 AlignMix 的新型混合方法，通过在特征空间中几何对齐两个图像，从而使混合方法保留一个图像的几何特征和另一个图像的纹理，提高了表示学习效果。

    Mar, 2021

  • 无限类别混淆

    本文提出了一种名为 Infinite Class Mixup 的基于分类器混合的新型数据增广策略，通过对每个增广样本定义一个唯一的新分类器，而不是对训练对标签进行混合，使得神经网络能够更好地学习不同数据类之间的线性行为模式，并在多种模型上取得了较好的性能表现。

    May, 2023

  • AutoMix: 揭示 Mixup 的强大分类器之力

    该论文提出了一种自动混合框架 ——AutoMix，它将混合分类分为两个子任务，并使用相应的子网络在双层优化框架中解决。AutoMix 在 9 个图像基准上的广泛实验表明，在各种分类场景和下游任务中，其优越性超过了现有技术。

    Mar, 2021