IJCAIJun, 2024

推进泛化迁移攻击：基于初始化衍生的双层优化和动态序列截断

PDF
TL;DR提出了一种基于双层优化框架的转移攻击方法 (BETAK)，通过引入超梯度响应 (HGR) 估计和动态序列截断 (DST) 技术，提供了算法分析和收敛保证，显著提升对不同受害者和防御方法的攻击成功率。
transfer attacksbilevel transfer attack (betak)hyper gradient response (hgr)dynamic sequence truncation (dst)algorithmic analysis
发现论文，激发创造
  • 利用可迁移的先验知识和查询反馈学习黑盒攻击者

    提出了一种名为 “Learnable Black-Box Attack” 的新方法，将基于转移和基于查询的黑盒攻击相结合，在 Surrogate Model 下进行攻击，并通过高阶梯度逼近（HOGA）有效地利用了查询反馈。实验结果表明，“Learnable Black-Box Attack” 方法明显优于现有技术。

    Oct, 2020

  • 重新思考针对对抗迁移的反向传播

    本文提出了一种新方法，即 Backward Propagation Attack（BPA），以增强与输入图像相关的梯度和损失函数之间的关联性，从而生成更具有传递性的对抗性样本，这在提高对真实世界应用的攻击中有很大的潜力。

    Jun, 2023

  • 学习可转移攻击

    本论文提出了一种学习如何生成可迁移的对抗扰动的方法，该方法结合了数据增广、模型增广和元学习算法，实验证明该方法的成功率比当前最先进的方法提高了 12.85％。

    Dec, 2021

  • 转移攻击再探：在实际计算机视觉环境下的大规模经验研究

    本文通过大规模系统的实证研究，探究了云端机器学习服务平台的漏洞和其普遍存在的在深度神经网络中的 “对抗攻击” 问题，发现先前的假设和结论在真实世界环境下不再一致，并指出了对未来研究方向的启示。

    Apr, 2022

  • 研究前 $k$ 名白盒和可转移黑盒攻击

    本文探讨了在实际应用中的黑盒情况下，提出了对攻击强度的评估。作为摘要，我们从几何角度出发，提出了新的 CE 损失函数，该函数针对攻击强度和 ICR 等方面进行了有效的实现和验证。

    Mar, 2022

  • 提升对抗传递性的技巧包

    通过对现有对抗性攻击的仔细研究，我们提出了一系列技巧来增强对抗性传递性，包括动量初始化、计划的步长、双重示例、基于频谱的输入变换和几种集成策略。在 ImageNet 数据集上的大量实验验证了我们提出的技巧的高效性，并表明结合它们可以进一步增强对抗性传递性。我们的工作提供了实用的见解和技术，以增强对抗性传递性，并通过简单的调整指导提高对现实世界应用的攻击性能。

    Jan, 2024

  • 如何选择可转移攻击的最佳盟友？

    本文提出了一种基于失真度量方法的新的迁移性攻击成功率评估工具，并针对随机选择源模型可能导致的问题，提出了一种称为 FiT 的新型选择机制。实验结果表明，FiT 对于多种攻击类型的源模型选择具有高效性。

    Apr, 2023

  • 系统性、实践性和公正性地评估基于传递的攻击

    该论文探讨了深度神经网络（DNNs）的对抗性脆弱性，并建立了一个基于转移的攻击基准（TA-Bench）来评估和比较 30 多种方法在 ImageNet 上的 25 个受害模型，从而提供了这些方法的有效性新见解和未来评估的指导。

    Nov, 2023

  • 攻击方式太过低级：对于对抗性可迁移性的攻击方案进行形式化

    本文研究在机器学习模型中对抗样本的转移性，提出了 DUMB 攻击模型并设计了测试环境验证实验，证明在数据源、平衡度和模型架构不匹配时，攻击的效果会受到严重影响。

    Jun, 2023

  • 增强对多任务模型的对抗攻击之动态梯度平衡

    本文研究多任务学习中的单任务机器学习攻击，提出了基于平均相对损失变化的动态梯度平衡攻击方法（DGBA），并在两个流行的多任务学习基准测试库上进行了广泛评估。结果显示参数共享会提高任务准确性，但对提高模型健壮性有贡献。

    May, 2023