分割模型的对抗样本易于传递

Nov, 2021

Adversarial Examples on Segmentation Models Can be Easy to Transfer

Jindong Gu, Hengshuang Zhao, Volker Tresp, Philip Torr

TL;DR该研究探讨了深度神经网络中对抗样本的传递性问题，研究发现在语义分割模型中，由于其具有多尺度目标识别的特性，传递性存在限制。提出了一种称之为动态尺度调节的简单而有效的方法来解决该问题。经过大量实验证明，该方法能够实现高效的传递性。

Abstract

Deep neural network-based image classification can be misled by adversarial examples with small and quasi-imperceptible perturbations. Furthermore, the adversarial examples created on one classification model can

neural network adversarial examples transferability semantic segmentation dynamic scaling

发现论文，激发创造

深度神经网络中对抗性样本的可迁移性调查

深度神经网络的关键问题之一是对抗性攻击和转移性，考虑到安全性和未来的发展，需要加强对抗性漏洞的防御。

Oct, 2023

探究可转移的对抗样本和黑盒攻击

本文首次对大规模数据集和大型模型进行了对抗样本的可迁移性的研究，同时也是首次研究了设计有目标的对抗样本在其目标标签之间的可转移性。通过新颖的集成方法，本文发现大量有目标的对抗样本可以成功地与其目标标签一起转移，并且这些使用集成方法生成的对抗样本可以成功地攻击黑匣子图像分类系统 Clarifai.com。

Nov, 2016

语义图像分割的对抗性样本

本文探讨了机器学习和深度神经网络在语义分割任务上遭受对抗性干扰的问题，证实了对抗性攻击对该任务也具有显著影响，可以通过不可察觉的对抗性扰动诱导深度神经网络对某一类别像素的错误分类而几乎不影响该类别以外像素的分类。

Mar, 2017

针对语义分割和物体检测的对抗样本

本文研究了在语义分割和物体检测领域中存在的对抗样本，并通过一种名为 DAG（Dense Adversary Generation）的算法来产生大量对抗样本，可以应用于各种先进的深度网络架构，除此之外还发现了对抗扰动可以在不同的训练数据、不同的架构以及不同的任务之间进行传递，尤其是在具有相同架构的网络之间的可传递性更加显著；此外，对多个异构扰动进行求和通常会导致更好的传递性能，这提供了一种有效的黑盒对抗攻击方法。

Mar, 2017

基于感知度量的任务通用性对抗攻击

提出一种基于永续度量的方法，通过创造高度扭曲网络特征空间的攻击来达到高度通用的敌对样本，旨在打破相对有限的目前攻击的限制，并可将其通过多个网络扩展到多个任务。

Nov, 2018

可迁移的语义分割攻击

对语义分割模型进行全面分析，发现传统的对抗攻击方法无法很好地转移到目标模型，因此需要研究适用于语义分割的可传递攻击方法。通过有效的数据增强、平移不变特征以及稳定的优化策略，提出了一种基于集成的语义分割攻击方法，以实现更有效且具有更高可传递性的攻击。

Jul, 2023

TranSegPGD: 在语义分割上提高对抗样本的可迁移性

本文提出了一种有效的两阶段对抗攻击策略，命名为 TranSegPGD，旨在改善语义分割中对抗性示例的可传递性。通过将输入图像的每个像素分为不同的分支，根据其对抗属性和可传递属性来分配不同的权重进行优化，以提高对抗性示例的传递能力和性能。实验证明，该方法可以达到最先进的性能。

Dec, 2023

理解和提升对抗样本的可迁移性

本文系统研究了影响对抗样本传递性的两类因素，包括网络结构、测试精度等模型特定因素和构建对抗样本的损失函数的局部光滑性。基于这些理解，提出了一种简单而有效的策略来增强传递性，称为方差降低攻击，因为它利用方差降低梯度来生成对抗样本，实验结果表明其有效性。

Feb, 2018

对生物医学图像分割深度学习模型的对抗样本影响

分析深度学习模型在医学图像分割上的脆弱性，并提出可针对性地制作视觉上几乎看不出来的高交并比的对抗样本算法 ASMA。

Jul, 2019

可转移对抗样本的空间

本文提出测量对抗样本空间维度的新方法，发现对抗性子空间在很大的维度上相互重叠并且共享在不同模型之间，通过探究模型决策边界的相似性和转移攻击的局限性，本文表明可能存在抵抗传输攻击的防御方法。

Apr, 2017