Sep, 2022

OpenMixup: 开放式混合工具箱与视觉表征学习基准

PDF
TL;DR本文提出了一种称之为 OpenMixup 的深度神经网络图像数据拼接工具，可以应用于监督、半监督和自监督学习，具有集成模型设计和训练平台、各种数据混合增强方法以及实用的模型分析工具等功能。同时还在多个数据集上提供图像分类基准测试，以加速研究人员在同一设置下进行公平比较。
发现论文，激发创造
  • AutoMix: 揭示 Mixup 的强大分类器之力

    该论文提出了一种自动混合框架 ——AutoMix，它将混合分类分为两个子任务，并使用相应的子网络在双层优化框架中解决。AutoMix 在 9 个图像基准上的广泛实验表明，在各种分类场景和下游任务中，其优越性超过了现有技术。

    Mar, 2021

  • mixup：超越经验风险最小化

    这篇论文提出了一种名为 mixup 的学习原则，通过训练神经网络的凸组合来缓解其记忆和对抗性示例敏感等问题，实验表明 mixup 提高了最先进的神经网络结构的泛化性能，并减少了恶意标签的记忆，增强了对抗性示例的鲁棒性，并稳定了生成对抗网络的训练。

    Oct, 2017

  • TransformMix: 从数据中学习变换和混合策略

    数据增强通过合成更多的训练样本提高深度学习模型的泛化能力。TransformMix 是一种自动化方法，通过应用学习到的变换和混合扩增策略来创建具有正确和重要信息的混合图像，从而提高性能。

    Mar, 2024

  • 拼图混合：利用显著性和本地统计信息实现最佳混合

    本研究提出了一种名为 Puzzle Mix 的混合方法，该方法使用卫星信息和自然例子的基本统计信息，以提高神经网络的性能和抗扰攻击能力。实验结果表明，Puzzle Mix 与其他混合方法相比，在 CIFAR-100、Tiny-ImageNet 和 ImageNet 数据集上均取得了最佳的泛化和对抗性鲁棒性结果。

    Sep, 2020

  • Co-Mixup: 基于显著性引导的超模复合联合 Mixup

    本文提出了通过优化构建 mixup 数据的最佳方法以获得更好的神经网络推广性能和对数据干扰的鲁棒性，特别是使用基于模块化近似的迭代次模最小化算法来实现有效的 mixup 计算。

    Feb, 2021

  • 对抗自动混合

    通过交替优化分类器和混合样本生成器，我们提出了一种对抗性自动混合增强方法 AdAutomixup，用于生成具有挑战性的样本以训练强大的图像分类器，并通过引入指数移动平均教师和余弦相似度来防止图像内在意义的崩溃。大量实验证明，我们的方法在各种分类场景中优于现有技术水平。

    Dec, 2023

  • Mixup-Transformer：NLP 任务的动态数据增强

    本文尝试将最新的数据增强技术 Mixup 应用于自然语言处理领域，特别是在与 NLP 相关的 transformer-based 学习模型中。实验结果表明，Mixup 在预训练的语言模型中是一个独立于领域的数据增强技术，能够显著提高其性能。

    Oct, 2020

  • AugMix：一个简单的数据处理方法，用于提高鲁棒性和不确定性

    本文提出了一种名为 AugMix 的数据处理技术，该技术对图像分类器的鲁棒性和不确定性估计有显著的提高，这有助于模型抵御在部署过程中遇到的意外破坏。

    Dec, 2019

  • 使用场景无关混合增强辨别性视觉表示学习

    本文研究了 MixUp 生成的目标函数，提出了一种包括自监督学习在内的 SAMix 算法解决该问题，并使用 Mixer 模型来避免在线训练的计算成本。实验证明，SAMix 表现卓越。

    Nov, 2021

  • 混合训练：改进的深度神经网络校准和预测不确定性

    通过将混合样本与标签训练，混合训练方法 (mixup) 在图像分类任务中表现出更好的数据增强效果，并且得到了更好的预测可靠性，表现为更好的校准性和更少的过于自信的预测。

    May, 2019