Feb, 2024

研究针对设备端模型的白盒攻击

PDF
TL;DR通过反向工程方法从移动设备应 用程序中彻底提取并逆向编译模型，研究了白盒攻击策略对移动设备模型的攻击效果，发现使用白盒策略能够大大提高攻击成功率并减小攻击干扰，强调了开发人员需要谨慎考虑模型部署策略，使用白盒方法评估移动设备模型的安全性。
发现论文，激发创造
  • 模型之外：Android 应用中的深度学习模型数据预处理攻击

    本文介绍对真实世界的基于数据处理的深度学习应用攻击。结果表明，81.56％的应用程序可以成功攻击，这凸显了了解并采取保护数据处理方面的安全措施在设备上的深度学习模型的重要性。

    May, 2023

  • 逆向工程黑盒神经网络

    研究表明，通过一系列查询可以暴露神经网络的架构、优化程序或训练数据等属性，因此黑匣子神经网络更容易受到各种攻击，但该技术也可以用于更好地保护个人隐私。

    Nov, 2017

  • 深度学习系统的模型重用攻击

    本文展示了恶意原始模型对机器学习系统的安全性带来的巨大威胁，并提供了有效、难以检测和易于实现的攻击方法，同时探讨了相应的潜在对策，给出了若干有前途的研究方向。

    Dec, 2018

  • 针对迁移学习的模型倒置攻击：无需访问模型即可实现模型倒置

    本文提出两种黑盒模型反演攻击方法，不需要查询学生模型，可以成功地从传统教师模型转移学习中的学生模型中恢复高度可识别的数据记录。

    Mar, 2022

  • 主动学习实现的查询效率高的黑盒攻击

    本文探究了 DNN 的黑盒攻击方案，使用现有的白盒攻击方法产生的采样样本进行训练替代模型，并提出主动学习策略和多样性准则以优化其表现，实验证明该方法可以将查询数量减少超过 90% 并保持黑盒攻击成功率。

    Sep, 2018

  • 针对黑盒深度学习模型的高效决策稀疏攻击

    本文针对深度学习模型的脆弱性与展开的攻击方式，研究了基于模型决策的稀疏攻击，提出了 SparseEvo 算法，并将其应用于卷积深度神经网络和视觉 Transformer 等模型上进行评估。SparseEvo 与之前的算法相比具有更高的攻击效率，但仍需要进一步探究，以增强模型安全性。

    Jan, 2022

  • 机器学习的实用黑盒攻击

    该研究介绍了一种利用黑盒攻击实现远程控制机器学习模型的方法，该攻击方式不需要了解模型内部或训练数据。研究表明该黑盒攻击策略可适用于许多机器学习技术，并且能够规避之前发现的防御策略。

    Feb, 2016

  • 重整阴影模型有利于白盒成员推断攻击

    通过对比不同初始化方法和使用 realigned 的影子模型，我们发现在白盒 MIA 攻击中，使用影子模型可以更好地保护训练数据。

    Jun, 2023

  • 计算机视觉模型的黑盒对抗攻击综述

    该论文介绍了对各种黑盒对抗攻击和防御技术的全面比较研究，旨在提高模型的鲁棒性。

    Dec, 2019

  • 探索对深度神经网络的黑箱攻击空间

    提出了一种新的基于梯度估计的黑盒攻击方法，攻击者可以查询目标模型的类概率，无需使用可转移性。该攻击在 MNIST 和 CIFAR-10 数据集上的攻击成功率均超过 100％，同时成功攻击了 Clarifai 的实时图像分类器和最新防御方法。

    Dec, 2017