Nov, 2023

盗贼之军：通过基于集成的样本选择来增强黑盒模型提取

PDF
TL;DR在这项研究中，我们探索了使用深度学习模型的集成作为我们的盗贼模型的用途。我们将此攻击称为 Army of Thieves（AOT），通过训练具有不同复杂性的多个模型来利用人群的智慧。根据集成模型的共同决策，选择不确定样本进行查询，而最可信的样本直接包含在训练数据中。我们的方法是第一个利用盗贼模型的集成来执行模型提取的方法。与现有最先进方法的基本方法相比，我们的方法至少提高了 3％，并且在 CIFAR-10 数据集上训练的模型的对抗样本可转移性比先前的研究提高了 21％。
machine learningmodel stealing attacksactive learningsemi-supervised learningensemble of deep learning models
发现论文，激发创造
  • 学生超越老师：基于模仿的黑盒自然语言处理 API 攻击

    利用无监督域适应和多受害者集成的方法，攻击者可能会在 NLP API 中超越原始黑盒模型，这是对模型提取以前的理解的超越，验证结果表明模仿者可以在转移领域中成功地胜过原始的黑盒模型，这将影响 API 提供者的防御或发布策略。

    Aug, 2021

  • 关于机器学习模型盗窃及其防御的综述：我知道去年你训练过什么

    MLaaS 服务的 “模型窃取” 攻击威胁了提供商的知识产权，本文通过对该领域进行全面系统化的分类和比较，探索了相应的防御技术，并提出了攻击和防御策略的分类法和指南并分析哪些防御策略被当前攻击策略削弱

    Jun, 2022

  • 通过利用公共数据提取深度神经网络的框架

    使用主动学习和大规模公共数据集的模型提取框架，可以通过黑盒访问从图像和文本领域的各种数据集中训练出的深度分类器，其中仅使用其 30%（30,000 个样本）的数据集。

    May, 2019

  • T-SEA：基于迁移学习的自组攻击在物体检测上的应用

    本研究针对单模型迁移黑盒对象检测攻击问题，提出了一种增强型攻击框架以及自举式方法，提高了攻击的传递性和白盒效果。

    Nov, 2022

  • 推荐系统的模型窃取攻击

    通过限制可用目标数据和查询数量，并利用与目标数据共享物品集的辅助数据，利用注意机制将它们融合起来辅助攻击，该论文设计了有效提取通过查询目标模型获得的推荐列表的窃取函数，实验结果表明该方法适用于大多数推荐系统和各种场景，并在多个数据集上表现出优异的攻击性能。

    Dec, 2023

  • 基于集成的黑盒攻击密集预测

    在本文中，我们提出了一种针对稠密预测模型（例如对象检测器和分割器）的对抗攻击方法和模型集成。我们的模型集成方法通过适当的模型权重归一化和根据受害者模型的加权调整产生更有效的攻击。我们还表明，我们的方法在对象检测和分割方面胜过了现有的黑盒攻击方法，并能够生成一个单一的扰动同时欺骗多个黑盒检测和分割模型。

    Mar, 2023

  • SAME：对模型提取攻击的样本重构

    通过基于样本重构的概念，介绍了一种新颖的防御机制 SAME，能够解决深度学习模型在 MLaaS 环境下的模型提取攻击问题，并且相较于现有解决方案具有更强的防御效果。

    Dec, 2023

  • 在硬标签环境中实现无数据模型窃取

    本文提出了一种利用 GAN-based framework 来绕过 hard label，仅仅通过访问 top-1 prediction 的方式，以及不访问模型梯度和训练数据的情况下偷取机器学习模型的方法，同时通过利用公开数据集来降低查询成本，并在 100 类数据集上展示了模型窃取的规模性。

    Apr, 2022

  • MEGA: 通过协作的生成器替代网络进行模型窃取

    本文提出了一种基于协作生成替代模型网络的无数据模型窃取框架 MEGA，该框架通过合成查询示例和预测标签来模拟目标模型，并且通过最大化替代模型的置信度来生成图像，实验表明，该框架所训练的替代模型和黑盒敌对攻击的成功率均比现有的数据无关的攻击方法高。

    Jan, 2022

  • 无数据强标签强韧性窃取攻击

    这篇论文介绍了一种新的无数据硬标签鲁棒性窃取攻击方法，该方法通过查询目标模型的硬标签而无需任何自然数据，实现了对模型准确性和鲁棒性的窃取，实验证明其有效性。

    Dec, 2023