OMG-ATTACK：自监督的流形上生成可传递的回避攻击

ICCVOct, 2023

OMG-ATTACK：自监督的流形上生成可传递的回避攻击

OMG-ATTACK: Self-Supervised On-Manifold Generation of Transferable Evasion Attacks

Ofir Bar Tal, Adi Haviv, Amit H. Bermano

TL;DR我们引入了一种自我监督、计算成本低的方法，用于在未知黑盒设置中生成对抗性样本，这些样本通过适应表示学习技术生成，并鼓励与数据分布相似，从而与受攻击的模型相关性更高，在攻击训练模型时与最先进方法相当有效，在攻击未知模型时则显著更有效，表明在针对未知模型时，基于流形的对抗性样本发挥了重要作用。

Abstract

evasion attacks (EA) are used to test the robustness of trained neural networks by distorting input data to misguide the model into incorrect classifications. Creating these attacks is a challenging task, especially with the ever-increasing complexity of models and datasets. In this wo

evasion attacks adversarial examples black-box setting representation learning on-manifold eas

发现论文，激发创造

一种用于提高对抗传递性的自适应模型集成对抗攻击方法

通过自适应地控制每个模型输出的融合，监测其对于攻击目标的贡献差异比率，本文提出了一种自适应集成攻击（AdaEA）方法，并引入一个降低差异的滤波器以进一步同步更新方向，从而在各种数据集上取得了显著改进，同时能够提升已有的基于迁移的攻击方法，进一步证明了其高效性和多功能性。

Aug, 2023

超越对抗扰动：借助流形辅助的具有合法语义的对抗样本

提出了一种有监督的语义转换生成模型，用于生成具有真实和合法语义的对抗性样本，实现了从非对抗性样本到对抗性样本的合法过渡。实验结果表明，生成的对抗性样本不仅具有更好的视觉质量，还实现了更高的攻击可迁移性和更有效的模型漏洞解释。

Feb, 2024

流形对抗数据增强提升不确定性校准

提出了一种名为 OMADA 的方法，通过在基于自编码器的生成模型的潜在空间内跟随一个 on-manifold 对抗攻击路径，试图产生具有挑战性的示例来改善不确定性估计，从而在多个数据集和网络架构上实现了更准确、更好地校准的分类器，并在某些情况下跑赢了温度缩放等后处理校准方法。

Dec, 2019

自监督方法提高对抗性鲁棒性

本文首次提出了一种自我监督的对抗训练机制，在输入空间中防御对抗性攻击，并提供极大的鲁棒性，可以作为即插即用的解决方案来保护各种视觉系统，包括分类、分割和检测，同时极大降低了未知攻击的成功率。

Jun, 2020

流形上的投影梯度下降算法

本文提供了一种可计算、直接且数学严谨的方法，用于近似高维数据的类流形的微分几何，以及从输入空间到这些类流形的非线性投影。该方法应用于神经网络图像分类器的设置中，在流形上生成新颖的数据样本，并实现了流形上的对抗训练的投影梯度下降算法，以解决神经网络对对抗性攻击的敏感性问题。

Aug, 2023

集成对抗训练：攻击和防御

该研究论文探讨了对抗性样本及训练，以及如何生成更强的对抗性样本以提高鲁棒性，介绍了集成对抗性训练技术，并表明在 ImageNet 数据集上应用该技术可以显著提高模型的鲁棒性。

May, 2017

攻击方式太过低级：对于对抗性可迁移性的攻击方案进行形式化

本文研究在机器学习模型中对抗样本的转移性，提出了 DUMB 攻击模型并设计了测试环境验证实验，证明在数据源、平衡度和模型架构不匹配时，攻击的效果会受到严重影响。

Jun, 2023

双流形对抗性鲁棒性：抵御 Lp 和非 Lp 对抗攻击

通过在图像的潜在空间中对对抗样本进行对抗训练以及利用生成模型中学习到的流形信息进行双流形对抗训练，可以大大提高深度学习模型的鲁棒性，从而有效地应对多种新颖的对抗攻击。

Sep, 2020

鲁棒流形防御：使用生成模型进行对抗训练

本文提出了一种利用 spanners 的新型攻击方法，通过搜索潜在的编码对，寻找生成在不同分类器输出下具有相似图像的对立范例，从而比传统扰动真实图像的攻击更具优势，在实验中，该攻击成功将 Defense-GAN 的准确率降至 3％，而且该技术与普通的对抗训练相结合，可以获得现有最强的 MNIST 分类器。

Dec, 2017

基于迁移学习的多对抗检测技术用于网络入侵检测系统的攻击逃避检测

该研究旨在设计一种高效的基于转移学习的对抗检测器，并评估使用多个策略性放置的对抗检测器与单个对抗检测器相比在入侵检测系统中的有效性。通过将它们各自的决策相结合，我们证明结合多个检测器可以进一步提高对抗流量的可检测性。

Oct, 2022