可迁移的语义分割攻击
本文提出了一种有效的两阶段对抗攻击策略,命名为 TranSegPGD,旨在改善语义分割中对抗性示例的可传递性。通过将输入图像的每个像素分为不同的分支,根据其对抗属性和可传递属性来分配不同的权重进行优化,以提高对抗性示例的传递能力和性能。实验证明,该方法可以达到最先进的性能。
Dec, 2023
该研究探讨了深度神经网络中对抗样本的传递性问题,研究发现在语义分割模型中,由于其具有多尺度目标识别的特性,传递性存在限制。提出了一种称之为动态尺度调节的简单而有效的方法来解决该问题。经过大量实验证明,该方法能够实现高效的传递性。
Nov, 2021
本研究首次详细审查了对抗性攻击的可转移性方面,系统地分类和评估了各种用于增强对抗性攻击可转移性的方法学。同时,本文引入了一个基准框架 TAA-Bench,集成了十种领先的对抗性攻击可转移性方法,为跨不同模型结构的比较分析提供了一种标准化和系统化的平台。通过全面审查,我们描述了每种方法的有效性和限制,并揭示了它们的操作原理和实际效用,旨在成为该领域学者和实践者的基本资源,为对抗性可转移性的复杂领域绘制地图并为未来的探索奠定基础。
Feb, 2024
通过利用最近的扩散模型的潜在空间中的语义信息,本文提出了一个快速生成语义对抗攻击的框架,并在 CelebA-HQ 和 AFHQ 数据集上进行了大量实验,与其他基线相比,我们的框架在多种情境中取得了极高的成功率,最佳 FID 为 36.61。
Sep, 2023
本文讨论了利用 SegPGD 进行语义分割的有效攻击和防御方法,并提出了一种更有效和高效的对抗训练机制,可以增强基于语义分割的模型的鲁棒性。
Jul, 2022
我们提出了一种新的方法,在互模态优化方案中生成对抗性攻击,利用预训练的 CLIP 模型进行视觉攻击和文本防御,并通过迭代训练策略实现攻击的转移性。我们的方法在多个基准数据集上得到了验证,表明我们的互模态攻击策略能够有效产生高可转移攻击,并且优于最先进的攻击方法,可作为即插即用解决方案。
Dec, 2023
本文提出了一种新的黑盒对抗攻击方法,通过使用预训练模型学习低维嵌入,然后在此嵌入空间内进行高效搜索,从而攻击未知目标网络。该方法能够生成具有高级语义模式的对抗性扰动,易于迁移,可大大提高黑盒对抗攻击的查询效率。作者在 MNIST、ImageNet 和 Google Cloud Vision API 上进行评估,并在 CIFAR10 和 ImageNet 上攻击对抗性防御网络,取得了良好的攻击效果。
Nov, 2019
本研究提出了一种基于生成对抗网络(GAN)框架的方法,通过联合训练高级别类别损失和低级别特征损失,获得生成对抗图像和视频,并成功解决了对目标检测模型的对抗攻击中存在的二合一问题:低的迁移能力和高的计算成本。
Nov, 2018