使用加密视觉转换器模型的随机集合增强对抗样本的安全性

Jul, 2023

使用加密视觉转换器模型的随机集合增强对抗样本的安全性

Enhanced Security against Adversarial Examples Using a Random Ensemble of Encrypted Vision Transformer Models

Ryota Iijima, Miki Tanaka, Sayaka Shiota, Hitoshi Kiya

TL;DR本文中，我们提出了一种随机集成的加密视觉转换模型，以实现更加强健的模型，这种模型不仅对黑盒攻击更加强健，而且对白盒攻击也更加强健。

Abstract

deep neural networks (DNNs) are well known to be vulnerable to adversarial examples (AEs). In addition, AEs have adversarial transferability, which means AEs generated for a source model can fool another black-box model (target model) with a non-trivial probability. In previous studies

deep neural networks adversarial examples vision transformer convolutional neural network models encrypted models

发现论文，激发创造

增强对抗样本鲁棒性的随机加密模型集合

本文提出了一种随机集成加密 ViT 模型的方法，该方法对于黑盒攻击和白盒攻击都比传统方法更具鲁棒性。

Jan, 2024

随机加密视觉转换器的敌对鲁棒防御的集成

使用视觉变换器 (ViT) 的加密模型的随机集合，提出了一种增强对白盒和黑盒攻击鲁棒性的新方法，在 CIFAR-10 和 ImageNet 数据集的图像分类任务中，该方法不仅对抗白盒攻击，而且对抗黑盒攻击，并在 RobustBench 标准基准中验证了其在干净准确性和鲁棒准确性方面优于传统防御。

Feb, 2024

视觉 Transformer 对抗攻击鲁棒性揭示

本文针对 Vision Transformer 在对抗攻击下的稳健性问题进行了探究，实验证明 Vanilla ViTs 或 Hybrid-ViTs 的对抗攻击鲁棒性比 CNNs 更强。通过提供特征图、注意力图等分析，对注意力模型进行了深入理解。

Jun, 2021

Vision Transformers 对抗样本的鲁棒性

本文研究了 Vision Transformers 在对抗性样本方面的鲁棒性，分析了其与 CNNs 在攻击和安全方面的不同，并提出了一个简单的混合防御方案以提高鲁棒性和准确性。

Mar, 2021

加密图像下高效微调视觉转换模型的领域适应

我们提出了一种使用视觉变换器 (ViT) 对转换图像进行模型微调的新方法，该转换图像域自适应方法不会导致模型准确度下降，基于 ViT 的嵌入结构进行实施，实验证实了该方法在使用 CIFAR-10 和 CIFAR-100 数据集的加密图像时仍能防止准确度下降。

Sep, 2023

提升视觉 Transformer 的对抗传递性

本研究通过提出两种攻击策略，Self-Ensemble 和 Token Refinement，充分利用了 Vision Transformers 的自注意力和组合性质来增强对抗攻击的传递性能。

Jun, 2021

针对隐私保护视觉转换器的高效微调与领域自适应

提出了一种用于视觉变换器（ViT）的隐私保护深度神经网络（DNN）的新方法，该方法允许我们不仅训练模型和使用视觉受保护的图像进行测试，而且还能避免使用加密图像导致的性能下降，而传统方法无法避免图像加密的影响。通过领域适应方法，高效地对使用加密图像的 ViT 进行微调。实验证明，该方法在 CIFAR-10 和 ImageNet 数据集的图像分类任务中，在分类准确度方面优于传统方法。

Jan, 2024

通过集成方法实现可转移音频对抗攻击

本研究旨在探究对深度学习语音识别中对抗性样本传递性的影响因素，发现图像与语音识别中对抗性样本传递性的巨大差异，并提出了基于随机梯度集成和动态梯度加权集成的两种新方法，获得了有效的传递性。

Apr, 2023

关于视觉 Transformer 的对抗鲁棒性

本文对视觉 Transformer（ViT）的抗干扰性进行了全面的研究，发现相比于 MLP-Mixer 和卷积神经网络（CNNs），ViTs 拥有更好的对抗性鲁棒性。经过频率分析和特征可视化，发现 ViTs 所学习的特征中包含的高频模式较少，这有助于解释为什么 ViTs 对高频扰动较不敏感，并且现代 CNN 设计可以帮助填补 ViTs 和 CNNs 表现的差距。

Mar, 2021

Vision Transformer 和 MLP-Mixer 在对抗鲁棒性方面与 CNN 的比较

本文比较了卷积神经网络 (CNN)、Vision Transformer (ViT) 和 MLP-Mixer 的抗对抗攻击性能，并发现新提出的网络结构 ViT 和 MLP-Mixer 比 CNN 更加鲁棒，其中频率分析表明，最具鲁棒性的 ViT 架构倾向于依赖于低频特征，而 MLP-Mixer 则极易受到普适性对抗扰动的影响。

Oct, 2021