May, 2024

通过标准化逻辑输出校准和截断特征混合改进可转移的有针对性对抗攻击

PDF
TL;DR本文旨在提高有针对性攻击中对抗样本的可转移性，通过在损失和特征方面提出两种不同的改进方法。首先，我们引入了一种新的规范化对数准确度校准方法，它同时考虑了对数边界和对数的标准差。其次，我们进一步研究了截断特征混合方法来减小源训练模型的影响，从而实现了额外的改进。在 ImageNet-Compatible 和 CIFAR-10 数据集上进行的实验证明了我们提出的两个组件的个别和相互优势，在黑盒有针对性攻击中取得了领先于现有方法的大幅度改进。
adversarial samplestargeted attackslogit calibrationtransferabilityfeature mixing
发现论文，激发创造
  • 关于成功和简单性的再探：可传递的有针对性攻击

    通过发现简单易用的可转移攻击可以取得很高的目标转移性能，本文提出了新的针对传输设置的评估方法，并显示了使用 logit loss 方法生成目标通用对抗扰动的有效性。

    Dec, 2020

  • 利用逻辑归一化缓解神经网络过度自信

    本文提出 Logit Normalization 方法，通过约束神经网络输出的 logits 向量的范数，以减少 out-of-distribution 数据的高置信度问题，并在常见基准测试中取得高度可分辨的置信度分数。

    May, 2022

  • 通过融合 Top-1 分解特征的逻辑输出增强对抗传递性

    该研究提出了基于奇异值分解的特征攻击方法，以提高对抗样本的迁移性，并通过实验验证了其有效性。

    May, 2023

  • 重新思考长尾识别中的分类器再训练：一种简单的逻辑回归重新定位方法

    在这项研究中，我们重新评估了基于统一特征表示的分类器重新训练方法，并提出了一个称为 Logits Magnitude 的新度量作为模型性能的更好指标。通过减少平衡时 Logits Magnitude 的绝对值，可以有效减少训练过程中的错误和干扰，从而提高模型性能。基于这些发现，我们提出了一种简单的 Logits 重新目标化方法 (LORT)，无需先验知识即可将原始的 one-hot 标签分成小的真实标签概率和分布在每个类中的大的负标签概率。我们的方法在各种不平衡的数据集上取得了最先进的性能，包括 CIFAR100-LT、ImageNet-LT 和 iNaturalist2018。

    Mar, 2024

  • 标准化标签分布：实现学习校准、适应性和高效激活图

    本文研究了分类网络在面对数据异常和对抗攻击时准确性和可校准概率分布的平衡，在探讨标签平滑正则化和标准化方法对数据泛化性和校准概率分布的影响时提出了正则化软标签的方法，将传统卷积转化为基于填充的局部卷积，以加强性能和收敛速率。

    Dec, 2020

  • 对抗性对数配对

    本文提供了一种对抗性训练的改良技术 —— 对数配对方法，利用它可以用来防御对抗性攻击，并在 ImageNet 数据集上实现了最新的对抗性训练，并探究了其在这种情况下的有效性，同时提升了其精度表现。

    Mar, 2018

  • 可学习的边界引导对抗训练

    本研究通过引入已训练的干净模型的分类边界来指导对抗训练，约束对抗性模型的 logits 与自然数据下的干净模型的 logits 相似，从而提高了模型的鲁棒性和自然数据的准确性。实验证明，该方法在 CIFAR-10、CIFAR-100 和 Tiny ImageNet 上具有新的最先进的鲁棒性，无需额外的真实或合成数据。

    Nov, 2020

  • 利用相似目标的增强对抗攻击

    在这篇论文中，我们提出了一种名为 Similar Target（ST）的类似目标攻击方法，通过促进每个模型梯度的余弦相似性，我们的方法规范化了优化方向，从而同时攻击所有替代模型，验证了我们的方法在提高对抗迁移性方面的有效性。在 ImageNet 上的实验结果证实了我们的方法在提高对抗迁移性方面的有效性，优于 18 个判别分类器和对抗训练模型的最先进攻击方法。

    Aug, 2023

  • 通过对抗性输出日志更新推进对抗鲁棒性

    在这项研究中，从理论的角度分析了成功的对抗攻击周围的逻辑差异，并提出了一种新的原则，即 Adversarial Logit Update (ALU)，用于推断对抗样本的标签。基于 ALU，引入了一种新的分类范式，利用预净化和后净化的逻辑差异来提高模型的对抗鲁棒性。经过广泛实验证明，所提出的解决方案在 CIFAR-10、CIFAR-100 和 tiny-ImageNet 数据集上相对于最先进的方法具有卓越的鲁棒性能。

    Aug, 2023

  • 通过逻辑调整实现长尾学习

    本文介绍了两种简单的技术对抗现实场景中数据标签分布的不平衡性，包括采用标签频率进行 logistic 校准 以及在训练过程中强制实施其中之一或两种技术能够鼓励罕见标签与支配标签之间拥有一个相对较大的罕见标签较大的标签在一些学习情况中具有更好的表现。

    Jul, 2020