Aug, 2023

隔离与诱导：针对模型窃取攻击训练强健的深度神经网络

PDF
TL;DR通过隔离对手的训练梯度并减少推理计算成本，训练模型以产生对窃取查询无信息性输出的模型窃取防御方法，有效提高了系统的鲁棒性和速度。
machine learning models as a servicemodel stealing attacksdeceptive perturbationsisolation and inductionmodel stealing defenses
发现论文，激发创造
  • 机器学习中的数据集推断：所有权解析

    本文提出了一种名为 $dataset$ $inference$ 的防御机制，旨在解决目前存在的模型盗窃问题，该机制结合了统计测试和多个数据点到决策边界的距离估计来实现对原始模型数据集保护，实验证明该机制可以成功地对抗目前最先进的攻击方式，并且无需对被保护的模型进行重新训练或过度拟合。

    Apr, 2021

  • 归纳图神经网络的模型窃取攻击

    本文提出了针对归纳图神经网络的模型盗窃攻击，定义了威胁模型并根据对手的背景知识和目标模型的响应提出了六种攻击方式。在六个基准数据集上的评估结果显示，该攻击方式取得了良好的性能表现。

    Dec, 2021

  • 模型逆向鲁棒性：迁移学习是否有所帮助？

    使用迁移学习为基础的防御方法可以提高模型的抵抗性，限制编码敏感信息的层数，从而降低模型逆推攻击的性能。

    May, 2024

  • 卷积神经网络模型窃取攻击的高效防御

    通过引入一种启发式方法来扰动输出概率，我们提出了一种简单而有效的防御措施，可轻松集成到模型中，不需要额外的训练，并且对模型性能影响小，在防御三种最先进的盗窃攻击方面表现出色，对于针对边缘设备的量化卷积神经网络同样有效。

    Sep, 2023

  • 使用自适应虚假信息防御模型窃取攻击

    该研究提出了采用自适应误导的方法抵御深度神经网络模型盗窃攻击，并针对现有所有模型盗窃攻击均使用 Out-Of-Distribution 输入进行了阐述，提出选择性错误预测的方法以显著降低攻击者克隆模型的准确率，同时最小化对良性用户准确率的影响，这种防御具有更好的安全性和准确度平衡，并且计算开销最小。

    Nov, 2019

  • ML-Doctor: 机器学习模型推理攻击的全面风险评估

    本文首次全面评估不同推断攻击对机器学习模型的威胁，研究了四种攻击（成员推断，模型反演，属性推断和模型窃取）的威胁模型分类，并通过实验评估了不同数据集和模型结构的表现和防御措施的有效性。

    Feb, 2021

  • DNN 隐私泄露：模型倒置攻击和防御方法的调查

    模型反演攻击致力于利用对预训练模型的访问权限揭示关于训练数据的私密信息，这些攻击使得对与私密训练数据密切一致的高保真数据的重建成为可能，从而引发了重大的隐私担忧。尽管该领域取得了快速的进展，但我们仍然缺乏对现有模型反演攻击和防御方法的全面概述。为了填补这一空白，本文对该领域进行了深入研究，并提出了综合调查报告。首先，本文简要回顾了机器学习场景下传统的模型反演方法。然后，对多种模态和学习任务下深度神经网络 (DNNs) 的近期攻击和防御方法进行了详细分析和比较。

    Feb, 2024

  • 基于图神经网络的高效模型窃取攻击

    该论文介绍了一种针对归纳式图神经网络的无监督模型窃取攻击的新方法，该方法基于图对比学习和谱图增强，通过从目标模型高效提取信息。在六个数据集上对该攻击进行了全面评估，结果表明该方法相较于现有的窃取攻击具有更高的效率，并在所有基准测试中优于基准测试，实现了更高的窃取模型的保真度和下游准确性，同时对目标模型发送的查询次数较少。

    May, 2024

  • 重新思考对深度神经网络的模型反演攻击

    本文提出了两个能够有效提高现有所有最优模型对抗攻击性能的解决方案：对现有最优模型对抗攻击算法的优化目标进行分析并提出了改进的优化目标，以及分析了 “过度拟合” 并提出了一种新的 “模型增强” 思想来克服这个问题。实验证明，这些提出的解决方案能使现有的最优模型对抗攻击算法准确率提高 11.8％。

    Apr, 2023

  • 知识增强的分布式模型反演攻击

    本文提出了一种基于 Inversion-specific GAN 的新型模型反演攻击方法，通过训练鉴别器不仅区分真伪样本，而且包括目标模型提供的软标签，进而为每个目标类建模私人数据分布，成功率比先前的攻击方式有所提高（150%），而且普适于多种数据集和模型。

    Oct, 2020