Sep, 2023

极端图像转换促进鲁棒潜在目标表示

PDF
TL;DR用 Extreme Image Transformations（EIT）微调预训练网络可以增强其对各种强度的常见对抗攻击的性能，展示了在受到更强噪声的情况下，EIT 训练网络在物体区域仍然显示强烈的激活，展现了对不同类型对抗攻击的有希望的泛化能力。
adversarial attacksobject recognitionspurious correlationsfeature selectionextreme image transformations (eit)
发现论文，激发创造
  • 通过增强型 Transformer 和共注意力融合实现有效的图像篡改定位

    本文提出了一种基于增强型双分支变压器编码器和基于注意力的特征融合的有效图像篡改定位网络 (EITLNet)，通过特征增强模块增强变压器编码器的特征表示能力，并且通过坐标注意力融合模块在多个尺度上有效地融合从 RGB 和噪声流提取的特征。广泛的实验结果验证了该方案在各种基准数据集上达到了最先进的泛化能力和鲁棒性。代码将在此 URL 进行公开。

    Sep, 2023

  • 人类和机器对极端图像变换下的物体识别的鲁棒性

    该论文探讨了神经网络架构在解决视觉任务时存在的局限性，与人类学习抽象概念的策略不同。研究利用一组新的图像转换方法，对人类和网络在对象识别任务上进行了评估，发现常见网络的性能迅速下降，而人类能够以高精度识别对象。

    May, 2022

  • 基于转移的对抗攻击的自适应图像转换

    本文提出了一种名为自适应图片转换学习器（AITL）的新型结构，该结构将不同的图片转换操作集成到统一的框架中，进一步提高对抗样本的可转移性，实验表明该方法在 ImageNet 上的攻击成功率显著提高。

    Nov, 2021

  • 通过属性编辑实现神经网络稳健性的基准测试：ImageNet-E

    本文通过在 ImageNet 数据集中进行模型调试，探索模型对不同物体属性的敏感性，并创建了一个对象编辑工具包和基准测试 ImageNet-E，以评估图像分类器的鲁棒性。研究发现大多数深度学习模型对属性更改敏感，背景的微小变化可以导致平均准确率下降 9.23％。此外，研究还发现某些健壮性模型针对属性更改的鲁棒性不如基线模型，并提供了改善属性鲁棒性的方法。

    Mar, 2023

  • 等变换器网络

    使用具有等变性函数的规范坐标系构建了一种不同 iable 的图像到图像映射，称为 ET（Equivariant Transformers），并证明了它能够在提高模型强健性方面进行灵活组合，从而使得在现实世界的图像分类任务中，相对于 ResNet 分类器，ET 能够在数据有限情况下提高最多 15% 的分类效果而只增加不到 1% 的模型参数。

    Jan, 2019

  • 高度可转移的目标攻击的 AutoAugment 输入转换

    本文提出了一种新的有针对性的对抗攻击方法，称为 AutoAugment Input Transformation (AAIT)，通过搜索最佳的转换策略，并利用找到的最佳转换策略来生成对抗样本，从而提升有针对性攻击中的对抗传递性能。通过在 CIFAR-10 和 ImageNet-Compatible 数据集上进行广泛实验，证明了所提出的 AAIT 方法明显优于其他基于传递性的有针对性攻击方法。

    Dec, 2023

  • 探究和利用图像转换对抗性检测的影响

    本文综述了利用图像转换进行对抗检测的近期进展，并提出了一种名为 AdvJudge 的深度学习方法，通过结合 9 种图像转换的分数来判断对抗性示例，并利用可解释的 AI 工具显示了每种图像转换对对抗检测的贡献。

    Jan, 2022

  • 对抗训练下类人行为的扩展研究

    本文探讨了神经网络对分布偏移的敏感性问题解决方案中的对抗训练，以及了解到神经网络与人类理解不同的处理方式，更进一步地研究对抗训练对于神经网络偏向形状的影响并给出可能的解释，从频率角度分析了其效果。

    Mar, 2023

  • 预防性图像稳健处理以保护用户免受中间人攻击

    本论文提出了一种新颖的双层优化算法，该算法可以在自然图像环境下找到对抗扰动鲁棒的点，有效提高图像识别的鲁棒性。

    Dec, 2021

  • 神经网络潜在表征中的对抗性机器学习

    通过信息论的背景将此问题转化为信息失真和鲁棒性的两个新度量，我们对分布式深度神经网络（DNNs）对抗行为的鲁棒性进行了严格分析，并通过考虑 6 种不同的 DNN 架构、6 种不同的分布式 DNN 方法和对 ImageNet-1K 数据集进行 10 种不同的对抗攻击的广泛实验分析来验证我们的理论发现。实验结果支持我们的理论发现，显示出压缩的隐含表示可以在最佳情况下将对抗性攻击的成功率降低 88％，平均降低 57％，与对输入空间的攻击相比。

    Sep, 2023