Nov, 2023

重新思考 Mixup 以提高对抗性可迁移性

PDF
TL;DR提出了一种基于输入转换的新攻击称为 MIST，通过将输入图像与随机平移的图像进行随机混合，并分离每个混合图像的损失项的梯度来对抗不准确的梯度，通过在每个输入样本上计算多个混合图像的梯度，MIST 在 ImageNet 数据集上的实验证明在卷积神经网络（CNN）和视觉变换器（ViTs）中优于现有的 SOTA 输入转换攻击，并支持 MIST 的高效性和广泛性。
mixup augmentationadversarial transferabilitydecision boundariesinput transformation-based attackimagenet dataset
发现论文，激发创造
  • Admix: 提高对抗攻击的可转移性

    该研究旨在提高对抗转移性能，在理论和实验的基础上设计了一种称为 Admix 的输入变换攻击方法，该方法能够利用附加图像集合进行攻击并优于现有方法。

    Jan, 2021

  • 通过局部混合和自适应步长提高对抗样本的转移性能

    黑盒对抗生成框架通过增强输入的多样性和自适应步长来生成可转移的对抗样本，具有超过现有基准的表现。

    Jan, 2024

  • 混合推理：更好地利用混合策略来抵御对抗攻击

    这篇论文介绍了用 mixup 在训练深度神经网络以提高泛化性能和模型对抗干扰的鲁棒性，并通过 mixup 推理原则 MI 来利用全局线性行为主动防御对抗攻击，在 CIFAR-10 和 CIFAR-100 数据集上取得了良好效果。

    Sep, 2019

  • 统一尺度和混合掩码方法提高对抗转移能力

    提出了一个名为 US-MM 的框架，用于生成对抗性样本，其中采用统一的尺度和混合掩码方法来解决现有方法的问题，经过对标准 ImageNet 数据集的经验评估，US-MM 相比于现有方法在传递攻击成功率上平均提高了 7%。

    Nov, 2023

  • mixup：超越经验风险最小化

    这篇论文提出了一种名为 mixup 的学习原则，通过训练神经网络的凸组合来缓解其记忆和对抗性示例敏感等问题，实验表明 mixup 提高了最先进的神经网络结构的泛化性能，并减少了恶意标签的记忆，增强了对抗性示例的鲁棒性，并稳定了生成对抗网络的训练。

    Oct, 2017

  • TransMix：面向 Transformer 视觉任务的混合注意力机制

    本文提出了一种名为 TransMix 的混合标签方法，基于 ViT 的注意力图混合标签，这种方法不需要引入额外的参数和 FLOP，并且在不同的基于 ImageNet 数据集的分类任务中都能够显著提高 ViT 的性能以及在语义分割，目标检测和实例分割上的迁移能力，同时在 4 种不同数据集的评估中也表现得更加稳健。

    Nov, 2021

  • 对抗自动混合

    通过交替优化分类器和混合样本生成器，我们提出了一种对抗性自动混合增强方法 AdAutomixup，用于生成具有挑战性的样本以训练强大的图像分类器，并通过引入指数移动平均教师和余弦相似度来防止图像内在意义的崩溃。大量实验证明，我们的方法在各种分类场景中优于现有技术水平。

    Dec, 2023

  • TransformMix: 从数据中学习变换和混合策略

    数据增强通过合成更多的训练样本提高深度学习模型的泛化能力。TransformMix 是一种自动化方法，通过应用学习到的变换和混合扩增策略来创建具有正确和重要信息的混合图像，从而提高性能。

    Mar, 2024

  • LossMix: 简化和泛化 Mixup 以用于目标检测和更多领域

    该研究提出了一种新的概念框架 —— 监督插值，通过松弛和概括 Mixup，可以有效地规范混合数据的训练，进而提出了一种名为 LossMix 的简单却灵活且有效的正则化方法，并设计了一种两阶段的域混合方法，借助 LossMix 超越了 Adaptive Teacher，并在无监督领域适应中有了新的突破。

    Mar, 2023

  • 混合样本如何提高模型鲁棒性和泛化性能？

    本文提供了理论分析，证明了使用 Mixup 在训练中如何帮助模型的鲁棒性和泛化性，表明最小化 Mixup 损失相当于大致最小化对抗性损失的上界，而对于泛化性我们证明了 Mixup 数据增强对应于一种特定类型的数据自适应正则化，从而减少了过拟合。

    Oct, 2020