通过梯度聚合提升通用对抗干扰的泛化性能

Aug, 2023

通过梯度聚合提升通用对抗干扰的泛化性能

Enhancing Generalization of Universal Adversarial Perturbation through Gradient Aggregation

Xuannan Liu, Yaoyao Zhong, Yuhang Zhang, Lixiong Qin, Weihong Deng

TL;DR本文研究了深度神经网络对通用对抗扰动（UAP）的脆弱性，提出了一种名为随机梯度聚合（SGA）的简单有效方法，用于缓解梯度消失和逃离贫弱局部最优问题，并证实在标准 ImageNet 数据集上表现优于其他最先进方法。

Abstract

deep neural networks are vulnerable to universal adversarial perturbation (UAP), an instance-agnostic perturbation capable of fooling the target model for most samples. Compared to instance-specific adversarial e

deep neural networks universal adversarial perturbation gradient vanishing problem local optima problem stochastic gradient aggregation

发现论文，激发创造

使用生成模型的可传递通用对抗扰动

本文提出了一种针对深度网络易受对抗扰动攻击的问题的方法，使用预训练网络生成图像无关对抗扰动（UAPs），并通过在源模型的第一层仅关注对抗能量的损失，提高了 UAPs 的传递性，并在实验中展示了该方法的优越性。

Oct, 2020

普适性通用对抗攻击：超越加性扰动

本文提出了一种新的通用对抗攻击框架 GUAP，通过非加性扰动或加性扰动，或两者的组合来发起攻击，实验表明该框架在 CIFAR-10 和 ImageNet 数据集上可以达到比当前先进通用对抗攻击方法高达 15％和 19％的攻击成功率。

Oct, 2020

通用对抗攻击综述

本研究总结了最近在通用对抗攻击领域里取得的进展，讨论了攻击和防御方面的挑战以及通用对抗攻击存在的原因，旨在成为一项动态研究，不定期更新其内容，包括图像、音频、视频和文本等多个领域，欢迎该领域的作者联系我们，以纳入您的新发现。

Mar, 2021

通用对抗方向

本文介绍了深度神经网络中的普适性对抗性干扰及其转移问题，并提出了仅固定方向而自由调整干扰强度的通用对抗方向及基于主成分分析的算法，以解决对抗性干扰的转移问题。

Oct, 2022

对抗样本的统一梯度正则化方法族

本文提出了一种统一框架来构建抵御对抗样本的强大机器学习模型，并通过梯度正则化方法有效地对代价函数的梯度进行惩罚，从而达到鲁棒性的目的。实验证明，该方法在两个基准数据集上达到了最佳精度。

Nov, 2015

关于通用对抗干扰的无数据对抗检测的有效性

本论文提出了一种不需要原始训练数据即可计算 UAPs 的数据无关对抗性检测框架，并对各种文本分类任务进行了实验证明其具有竞争性的检测性能，且与正常推断相当。

Jun, 2023

通用对抗扰动：一次调查

本文研究深度学习中的普适性对抗扰动，探讨相关的数据驱动和数据无关的生成方法及防御技术，并讨论了普适性对抗扰动在各项深度学习任务中的应用。

May, 2020

减少梯度逼近的对抗训练成本

采用梯度逼近的对抗训练方法能够减少建立稳健模型的成本，而对于常见数据集如 MNIST、CIFAR-10 和 CIFAR-100，该方法在训练时间上节省了高达 60% 的时间，并且在模型测试准确性上没有明显损失。

Sep, 2023

SAPAG：一种自适应的梯度隐私攻击

本文提出了一种新的基于高斯核的梯度隐私攻击方法 SAPAG，它能够构建出不同 Deep Neural Networks 带不同权重初始化的、处于任意训练阶段的数据集，从而解决了现有模型易被攻击的问题。

Sep, 2020

使用生成模型学习通用对抗扰动

本文介绍了一种生成网络 —— 通用对抗网络，它可以在数据集中添加生成输出并欺骗目标分类器，从而提高通用对抗攻击的效果。

Aug, 2017