ICCVJul, 2023
下游无关对抗样本
Downstream-agnostic Adversarial Examples
Ziqi Zhou, Shengshan Hu, Ruizhi Zhao, Qian Wang, Leo Yu Zhang...
TL;DR该论文提出了 AdvEncoder,这是第一个基于预训练编码器生成无下游限制通用对抗样本的框架,在只输出特征向量而非分类标签的情况下,通过高频成分信息和生成式攻击框架构造对抗性扰动 / 补丁来攻击下游任务。实验证明,攻击者可以成功地攻击下游任务,而不需要了解预训练数据集或下游数据集。