Sep, 2023

基于主动自适应知识蒸馏和扩散式图像生成的少次调用模型窃取方法

PDF
TL;DR通过借助扩散模型生成逼真多样的图像，我们提出使用一个新的应用案例来复制黑盒分类模型，并在极少数量的调用中进行模型抽取任务，通过使用主动自适应学习框架来蒸馏被攻击模型的知识，我们的实证结果显示，该框架在少量调用模型抽取场景中优于两种现有方法。
diffusion modelsblack-box classification modelsmodel extractionfew-call model stealingactive self-paced learning
发现论文，激发创造
  • 从扩散模型获取训练数据

    本文研究了图像扩散模型，如 DALL-E 2，Imagen 和 Stable Diffusion，发现它们从训练数据中记忆单个图像并在生成时发射此类图像，总结了此类模型的隐私风险和影响隐私保护培训的新进展。

    Jan, 2023

  • 在硬标签环境中实现无数据模型窃取

    本文提出了一种利用 GAN-based framework 来绕过 hard label，仅仅通过访问 top-1 prediction 的方式，以及不访问模型梯度和训练数据的情况下偷取机器学习模型的方法，同时通过利用公开数据集来降低查询成本，并在 100 类数据集上展示了模型窃取的规模性。

    Apr, 2022

  • 用单个查询窃取图像到图像转换模型

    通过简单蒸馏，使用仅一个小尺寸的查询图像即可窃取很多基于图像转换的模型，包括去噪、去模糊、去雨点、超分辨率和生物图像转换。

    Jun, 2024

  • 扩散模型生成的合成数据是否适用于知识蒸馏？

    本文研究了在没有真实图像的情况下，使用最先进的扩散模型生成的合成图像是否适用于知识蒸馏，并得出了三个关键结论：（1）扩散模型的合成数据可以在现有的合成蒸馏方法中轻松地实现最先进的性能；（2）低保真度合成图像是更好的教材；（3）相对较弱的分类器是更好的教师。

    May, 2023

  • 黑盒少样本知识蒸馏

    本文提出了一种黑盒少样本知识蒸馏方法，使用 MixUp 和条件变分自编码器生成多样的合成图像进行训练，显著优于最新 SOTA 的少 / 零样本 KD 方法用于图像分类任务。

    Jul, 2022

  • 即插即用扩散蒸馏

    我们提出了一种新的蒸馏方法，可以减少迭代计算过程中无需分类器指导的扩散模型的推理计算时间，并且只需要基础模型的 1％的可训练参数，同时还能维持生成图像的视觉逼真度。

    Jun, 2024

  • 一个类别一个提示：使用扩散模型进行数据集精炼

    利用生成式文本到图像模型的最新进展，我们引入了数据集精炼使用扩散模型 (D3M) 作为一种新的数据集精炼范式。通过文本反演技术，我们利用学习到的文本提示为大型数据集创建简洁且有信息量的表示，以在固定的内存预算内有效地存储和推理新样本，并通过在不同内存预算下在各种计算机视觉基准数据集上进行的广泛实验验证了我们方法的有效性。

    Mar, 2024

  • Knockoff Nets: 模拟黑盒模型功能

    本文针对机器学习黑盒模型，提出了一种攻击方法，通过仅利用输入图像和输出的预测结果，而无需了解模型训练数据、结构或输出语义的情况下，来窃取其功能，并采用一种基于强化学习的方法，提高了查询样本的效率和性能。

    Dec, 2018

  • 潜在数据集精炼与扩散模型

    我们提出了一种结合潜在空间扩散模型和数据集精炼的潜在数据集精炼方法（LD3M），旨在解决机器学习面临的大型数据集和高分辨率图像生成的挑战，并在多个 ImageNet 子集和高分辨率图像上实验表明，LD3M 在 1 个和 10 个图像每类的情况下，相比最先进的精炼技术，提高了最高 4.8 个百分点和 4.2 个百分点的性能。

    Mar, 2024

  • 微数据生成微模型：用于少样本蒸馏的文本和空白文本逆转

    使用少量训练样本进行图像分类的研究涉及到利用知识蒸馏将高性能但计算速度较慢的模型的能力转移到小型高效模型上，通过使用合成数据来弥补数据不足，并利用扩散模型反演技术（TINT）和生成模型进行少样本蒸馏，达到接近先前研究的最高准确性，同时比先前研究更快速地完成任务。

    Jun, 2024