通过深度隐写学的视角实现通用对抗扰动：迈向傅里叶视角

AAAIFeb, 2021

通过深度隐写学的视角实现通用对抗扰动：迈向傅里叶视角

Universal Adversarial Perturbations Through the Lens of Deep Steganography: Towards A Fourier Perspective

Chaoning Zhang, Philipp Benz, Adil Karjauv, In So Kweon

TL;DR利用傅里叶分析的方法，我们从任务特定和联合分析的角度，揭示频率分布和高频内容对深度学习模型的鲁棒性和发现模型广泛化有深层次的影响。我们还提出了两种新的万能扰动：同时达到攻击和隐藏的 “通用秘密对抗扰动”（USAP）和对人眼不可见的 “高通万能扰动”（HP-UAP）

Abstract

The booming interest in adversarial attacks stems from a misalignment between human vision and a deep neural network (DNN), i.e. a human imperceptible perturbation fools the DNN. Moreover, a single perturbation,

adversarial attacks deep neural network universal adversarial perturbation deep steganography entropy metric

发现论文，激发创造

通用对抗扰动：一次调查

本文研究深度学习中的普适性对抗扰动，探讨相关的数据驱动和数据无关的生成方法及防御技术，并讨论了普适性对抗扰动在各项深度学习任务中的应用。

May, 2020

通用对抗攻击综述

本研究总结了最近在通用对抗攻击领域里取得的进展，讨论了攻击和防御方面的挑战以及通用对抗攻击存在的原因，旨在成为一项动态研究，不定期更新其内容，包括图像、音频、视频和文本等多个领域，欢迎该领域的作者联系我们，以纳入您的新发现。

Mar, 2021

使用生成模型的可传递通用对抗扰动

本文提出了一种针对深度网络易受对抗扰动攻击的问题的方法，使用预训练网络生成图像无关对抗扰动（UAPs），并通过在源模型的第一层仅关注对抗能量的损失，提高了 UAPs 的传递性，并在实验中展示了该方法的优越性。

Oct, 2020

远程遥感图像的通用对抗扰动

本文探讨了深度学习在遥感图像领域中的应用，尤其是在普适性对抗扰动方面的研究，并通过设计了一种新方法，可实现对遥感图像分类模型的攻击成功率高达 97.09%。

Feb, 2022

面向说话人识别的通用对抗扰动生成网络

本文研究了针对采用深度学习的生物特征识别系统的攻击方法，并证明了普适性对抗扰动的存在。我们提出了一种生成网络，通过学习低维正态分布与普适性对抗扰动的映射关系，将其应用于扰动输入信号以欺骗训练有素的说话人识别模型，并在 TIMIT 和 LibriSpeech 数据集上的实验结果表明了我们模型的有效性。

Apr, 2020

通过通用对抗扰动对深度神经网络进行全局指纹识别

本文提出了一种新颖且实用的机制，通过模型提取攻击来验证是否从受害者模型中盗取了嫌疑模型，并针对深度神经网络模型提出了 UAP 指纹识别方法，训练了一个通过对比学习的编码器，可以在仅检测 20 个指纹的情况下以置信度 > 99.99 检测出模型 IP 侵犯，并且在不同的模型架构下具有良好的普适性，在盗版模型上具有较强的鲁棒性。

Feb, 2022

通用对抗性音频扰动

本文展示了普适对抗扰动的存在，基于一些新提出的方法，使用惩罚公式可以成功实现针对音频分类体系结构的有目标攻击和无目标攻击。

Aug, 2019

关于通用对抗干扰的无数据对抗检测的有效性

本论文提出了一种不需要原始训练数据即可计算 UAPs 的数据无关对抗性检测框架，并对各种文本分类任务进行了实验证明其具有竞争性的检测性能，且与正常推断相当。

Jun, 2023

针对语义图像分割的通用对抗扰动

本篇论文探究如何通过生成普遍的对抗扰动，使卷积神经网络的语义图像分割结果变为预设的结果，同时还研究了去除语义图像中某个目标类别的扰动。

Apr, 2017

图像检索的通用扰动攻击

首次尝试以攻击图像检索系统为目标，利用新的方法生成反检索通用对抗扰动，通过降低相关的排名度量来打破图像特征之间的邻域关系。我们的方法通过多尺度随机调整大小的方案和排名蒸馏策略扩展攻击方法，并在四个广泛使用的图像检索数据集上进行了评估。在不同度量方面，如 mAP 和 mP @ 10 等，报告了显着的性能下降。最后，我们在实际的视觉搜索引擎 Google Images 上测试了我们的攻击方法，证明了我们的方法的实际潜力。

Dec, 2018