首次尝试以攻击图像检索系统为目标,利用新的方法生成反检索通用对抗扰动,通过降低相关的排名度量来打破图像特征之间的邻域关系。我们的方法通过多尺度随机调整大小的方案和排名蒸馏策略扩展攻击方法,并在四个广泛使用的图像检索数据集上进行了评估。在不同度量方面,如 mAP 和 mP @ 10 等,报告了显着的性能下降。最后,我们在实际的视觉搜索引擎 Google Images 上测试了我们的攻击方法,证明了我们的方法的实际潜力。
Dec, 2018
本研究总结了最近在通用对抗攻击领域里取得的进展,讨论了攻击和防御方面的挑战以及通用对抗攻击存在的原因,旨在成为一项动态研究,不定期更新其内容,包括图像、音频、视频和文本等多个领域,欢迎该领域的作者联系我们,以纳入您的新发现。
Mar, 2021
本文提出了一种针对深度网络易受对抗扰动攻击的问题的方法,使用预训练网络生成图像无关对抗扰动(UAPs),并通过在源模型的第一层仅关注对抗能量的损失,提高了 UAPs 的传递性,并在实验中展示了该方法的优越性。
Oct, 2020
提出了一种新的通用攻击方法 CD-UAP, 可以生成一个唯一的通用扰动,以欺骗目标网络,使其错误分类只选定的类组,而对其余类组影响有限。通过基于各种损失函数配置的算法框架来设计并比较,其在各种基准数据集上进行了广泛的实验,获得了最先进的性能。
本文综述了最近在图像分类任务中的 UAPs 的进展,并将其分类为噪声攻击和生成器攻击,并提供了每个类别中代表性方法的全面概述,同时还评估了不同的损失函数在一致的培训框架内的各种攻击设置的有效性,最后提供了扰动的一些可视化及未来的潜在研究方向。
Jun, 2023
本论文提出了一种不需要原始训练数据即可计算 UAPs 的数据无关对抗性检测框架,并对各种文本分类任务进行了实验证明其具有竞争性的检测性能,且与正常推断相当。
通过在整个图像领域内添加约束并横向和纵向重复来填充一个具有小尺度的场景无关扰动 (UAP) 地图,我们提出了一种纹理尺度约束的 UAP 改进方法 (TSC-UAP),它可以自动产生具有类别特定局部纹理的 UAP,更容易愚弄深度模型,从而在愚弄率和攻击可迁移性方面实现了显著的改进。
Jun, 2024
利用预训练扩散模型进行通用对抗防御,净化遥感数据中的对抗干扰,不需要事先了解对抗干扰性质,提高性能并减少重新训练的工作量。
Jul, 2023
利用傅里叶分析的方法,我们从任务特定和联合分析的角度,揭示频率分布和高频内容对深度学习模型的鲁棒性和发现模型广泛化有深层次的影响。我们还提出了两种新的万能扰动:同时达到攻击和隐藏的 “通用秘密对抗扰动”(USAP)和对人眼不可见的 “高通万能扰动”(HP-UAP)
Feb, 2021
本文研究深度学习中的普适性对抗扰动,探讨相关的数据驱动和数据无关的生成方法及防御技术,并讨论了普适性对抗扰动在各项深度学习任务中的应用。
May, 2020