ICCVAug, 2023

对抗性迁移的反向传播路径搜索

PDF
TL;DR在这篇论文中，我们提出了一种名为 PAS（backPropagation pAth Search）的方法，通过构建基于 DAG 的搜索空间、利用一步近似进行路径评估，并采用贝叶斯优化来搜索最优路径，以提高对抗攻击的成功率。我们进行了广泛的实验，结果显示 PAS 在各种转移设置下显著提高了对正常训练模型和防御模型的攻击成功率。
adversarial examplestransfer-based attacksstructure-based attacksbackpropagation path searchbayesian optimization
发现论文，激发创造
  • 通过路径增强方法提高对抗样本的可转移性

    本文提出了一种基于路径增强的方法 (PAM) 用于生成对抗样本，通过构建候选增强路径池和利用贪心搜索选择合适的增强路径，同时通过一个语义预测器 (SP) 来避免语义不一致的情况，实验结果表明，与历史方法相比，该方法可以提高超过 4.8% 的攻击成功率。

    Mar, 2023

  • 重新思考针对对抗迁移的反向传播

    本文提出了一种新方法，即 Backward Propagation Attack（BPA），以增强与输入图像相关的梯度和损失函数之间的关联性，从而生成更具有传递性的对抗性样本，这在提高对真实世界应用的攻击中有很大的潜力。

    Jun, 2023

  • 来自贝叶斯神经网络的有效且可迁移的对抗样本

    使用贝叶斯深度学习技术，以神经网络权重的后验分布进行抽样建立一个 surrogate，可以进一步提高黑盒攻击的可转移性，本文探究了提高攻击可转移性的训练方法， 将我们方法的表现与几种已有方法进行了比较，能够在 ImageNet 上获得 94% 的准确率。

    Nov, 2020

  • PASA: 使用预测和归因敏感性分析的攻击不可知的无监督对抗检测

    深度神经网络在分类方面容易受到对抗性攻击影响，本文提出了一种基于特征归因的方法来检测对抗样本，其能够可靠地检测到对抗样本，并在性能上优于目前最先进的统计无监督对抗检测器。

    Apr, 2024

  • 消除对抗攻击在计算机网络间的传递能力整理

    我们提出了一种新颖和全面的方法，以提高对卷积神经网络（CNNs）中对抗性示例的攻击强度和传递性的评估，以及验证计算机网络应用中是否存在传递性问题。我们的研究结果表明，即使在计算机网络应用中，对抗性示例对安全的威胁需要开发新的防御机制来增强深度学习技术的安全性。

    Oct, 2023

  • 转移攻击再探：在实际计算机视觉环境下的大规模经验研究

    本文通过大规模系统的实证研究，探究了云端机器学习服务平台的漏洞和其普遍存在的在深度神经网络中的 “对抗攻击” 问题，发现先前的假设和结论在真实世界环境下不再一致，并指出了对未来研究方向的启示。

    Apr, 2022

  • 线性反向传播提高对抗样本的可迁移性

    本文研究深度神经网络中对抗样本易受攻击的问题，通过引入线性反向传播的方法，增强了对抗样本的传递性，实现了更加有效的黑盒攻击。

    Dec, 2020

  • 通过扰动的迁移性检测神经网络后门

    研究表明深度神经网络中容易发生 backdoor 污染攻击，本文研究发现有一种有趣的特性，就是在有污染的模型中敌对扰动更容易传输从而用这个特性提出一种能在 TrojAI 基准测试中检测污染模型的方法。

    Mar, 2021

  • 可转移的图形后门攻击

    本研究发现并展示了 TRAP 攻击，一种生成可转移的背门攻击（transferable backdoor attacks）的新型杂质触发方法，该攻击利用 surrogate Graph Convolutional Network（GCN）模型生成样本特定的干扰触发器，可以被转移到不同的 GNN 模型中，是一种新型的黑盒背门攻击。

    Jun, 2022

  • 深度神经网络中对抗性样本的可迁移性调查

    深度神经网络的关键问题之一是对抗性攻击和转移性，考虑到安全性和未来的发展，需要加强对抗性漏洞的防御。

    Oct, 2023