MMJan, 2022

StolenEncoder 自监督学习中的预训练编码器盗窃

PDF
TL;DR本文提出了一种名为 StolenEncoder 的攻击方法，通过该方法可以以比从头开始训练更短的时间和资源窃取目标编码器，本文还探究了三种抵御此攻击的方法。
pre-trained encodersself-supervised learningstolenencoderdownstream classifiersdefenses
发现论文，激发创造
  • BadEncoder: 自监督学习中的预训练编码器后门攻击

    本研究研究自监督学习中的后门攻击，提出了 BadEncoder，它将后门注入预训练的图像编码器中，同时保留了下游分类器的准确性。对不同数据集的实验结果表明，这种攻击方法具有高攻击成功率，而常规的防御方法并不能有效防御。

    Aug, 2021

  • 无法窃取？那就对抗窃取！针对图像编码器的对比窃取攻击

    本文提出 Cont-Steal 对无监督编码器的知识产权保护措施，实现对训练后的编码器的复制效果，旨在引起人们对自我监督学习技术知识产权保护的重视。

    Jan, 2022

  • 下游无关对抗样本

    该论文提出了 AdvEncoder，这是第一个基于预训练编码器生成无下游限制通用对抗样本的框架，在只输出特征向量而非分类标签的情况下，通过高频成分信息和生成式攻击框架构造对抗性扰动 / 补丁来攻击下游任务。实验证明，攻击者可以成功地攻击下游任务，而不需要了解预训练数据集或下游数据集。

    Jul, 2023

  • 自监督模型的数据集推理

    研究了使用私有训练集对抗模型盗窃的方法， 自监督模型在数据集上的推断是保护这些模型的有效方法，同时该方法提出了衡量被盗模型仿真度的方法。

    Sep, 2022

  • 检测预训练编码器中的后门

    本文提出了 DECREE，是第一个用于预训练编码器的后门检测方法，无需分类器头或输入标签，并通过对 400 多个遭受三种范式攻击的编码器的评估，在 ImageNet 和 CLIP 400 百万图像文本对上，我们的方法一致具有很高的检测准确性，即使我们只有有限或没有访问预训练数据集。

    Mar, 2023

  • GhostEncoder: 自监督学习中动态触发器对预训练编码器的隐蔽后门攻击

    该论文介绍了一种针对计算机视觉中的自监督学习的动态隐形后门攻击方法 GhostEncoder，通过图像隐写术将隐藏信息编码到良性图像中，生成后门样本，并在操纵数据集上微调预训练图像编码器以注入后门，使得建立在被植入后门编码器的下游分类器在目标任务中继承后门行为，实现对图像的高成功率欺骗。GhostEncoder 还能抵抗包括 STRIP、STRIP-Cl 和 SSL-Cleanse 在内的最先进的防御方法。

    Oct, 2023

  • 针对对抗样本安全地微调预训练编码器

    通过采用遗传进化培育的对抗微调方法（Gen-AF），本文提出了一种两阶段的对抗微调方法，旨在增强下游模型的鲁棒性，实验证明该方法在十种自监督训练方法和六个数据集上对最先进的对抗示例具有高测试准确性和鲁棒测试准确性。

    Mar, 2024

  • PoisonedEncoder: 对对比学习的未标记预训练数据进行污染

    本文提出一种数据污染攻击 ——PoisonedEncoder，该攻击通过在无标签的预训练数据中注入精心制作的污染输入，为多目标下游任务构建基于受攻击者选择的中毒编码器的下游分类器，使得这些分类器将受攻击者选择的任意干净输入分类为受攻击者选择的任意类别，同时我们提出了一种针对对比度学习的方法来近似求解该数据污染攻击问题，并评估了五种针对 PoisonedEncoder 的防御策略。

    May, 2022

  • SSLGuard：自我监督学习预训练编码器的水印方案

    本文提出了 SSLGuard—— 首个用于对预训练编码器进行水印的方案，并使用影子训练技术来保护水印免受模型盗窃等攻击。实验证明，SSLGuard 能有效地进行水印注入和验证，并对模型盗窃及其他攻击具有鲁棒性。

    Jan, 2022

  • 任务无关连续学习的编码器和集成方法

    使用对比自监督学习和集成模型的方法，构建一个架构，以有效地进行连续学习，同时避免灾难性遗忘，对多个基准测试问题进行评估并取得了优异的表现。

    May, 2021