窃取隐形：通过对抗样本和时间侧信道揭示预训练的卷积神经网络模型

Feb, 2024

窃取隐形：通过对抗样本和时间侧信道揭示预训练的卷积神经网络模型

Stealing the Invisible: Unveiling Pre-Trained CNN Models through Adversarial Examples and Timing Side-Channels

Shubhi Shukla, Manaar Alam, Pabitra Mitra, Debdeep Mukhopadhyay

TL;DR基于对对抗性图像分类模式的观察，我们提出一种用于盗取模型的方法，结合时间侧信道和对抗性图像分类，以指纹识别多个著名的卷积神经网络和 Vision Transformer 架构，该方法可在减少查询次数的同时保持高准确率。

Abstract

machine learning, with its myriad applications, has become an integral component of numerous technological systems. A common practice in this domain is the use of transfer learning, where a pre-trained model's ar

machine learning transfer learning model stealing adversarial images convolutional neural network

发现论文，激发创造

通过时间侧信道窃取神经网络

本文提出利用时间侧信道攻击来推断神经网络模型深度的黑盒神经网络提取攻击，使用知识蒸馏和强化学习，有效减少了搜索空间，可以构造出与目标模型测试精度接近的替代模型，且该方法可扩展，并与神经网络结构类型无关。

Dec, 2018

用单个查询窃取图像到图像转换模型

通过简单蒸馏，使用仅一个小尺寸的查询图像即可窃取很多基于图像转换的模型，包括去噪、去模糊、去雨点、超分辨率和生物图像转换。

Jun, 2024

针对使用预训练深度学习模型的迁移学习的后门攻击

本文提出了一种利用公共可访问 Teacher Models 的知识展开的转移学习任务中的后门威胁，用于攻击真实世界图像和时间序列，提出了三种通常采用的防御类型：基于修剪的防御，基于重训练的防御和基于输入预处理的防御。

Jan, 2020

恶意软件检测中的对抗样本探索

研究卷积神经网络在恶意软件检测中的应用，探索对抗样本在该领域中的影响，发现之前的攻击不如之前报告的那么有效，同时还存在架构上的弱点，容易遭受新的攻击策略，继而探讨了攻击策略的可变性、提高攻击有效性的权衡以及单步攻击的可转移性。

Oct, 2018

Knockoff Nets: 模拟黑盒模型功能

本文针对机器学习黑盒模型，提出了一种攻击方法，通过仅利用输入图像和输出的预测结果，而无需了解模型训练数据、结构或输出语义的情况下，来窃取其功能，并采用一种基于强化学习的方法，提高了查询样本的效率和性能。

Dec, 2018

基于 Transformer 的对抗攻击在安全领域中的有效性

评估了变压器对系统防御者的恶意样本的强健性以及对系统攻击者的对抗性样本的可迁移性，发现变压器所生成的对抗样本具有最高的可迁移率，对其他模型具有更强的对抗性，强调了研究在安全领域中使用变压器架构进行攻击和防御的重要性，并建议将其作为转移攻击设置中的主要架构。

Oct, 2023

转置攻击：通过双向训练窃取数据集

神经网络存在漏洞可在双向上执行不同任务的训练，导致对抗者能够将恶意模型隐藏在表面上合法的模型中，此外神经网络还能被教导有系统地记忆和检索特定样本，这些发现展示了一种对抗者能够在受保护的学习环境中以合法模型的假象下窃取数据集的新方法，我们通过重点研究数据窃取攻击表明现代架构可以偷偷窃取数以万计的高保真样本，足以危害数据隐私甚至训练新模型，为了减轻这一威胁，我们提出了一种检测感染模型的新方法。

Nov, 2023

关于机器学习模型盗窃及其防御的综述：我知道去年你训练过什么

MLaaS 服务的 “模型窃取” 攻击威胁了提供商的知识产权，本文通过对该领域进行全面系统化的分类和比较，探索了相应的防御技术，并提出了攻击和防御策略的分类法和指南并分析哪些防御策略被当前攻击策略削弱

Jun, 2022

对基于 CNN 的图像取证的对抗样本可转移性研究

本文探索了在图像取证应用程序中，攻击是否具有传递性，并证明在大多数情况下攻击是不可传递的，至少当攻击者不完全了解目标检测器时，可以简化适当的对策设计。

Nov, 2018

欺骗计算机视觉和受时间限制的人的对抗样本

通过将计算机视觉模型的对抗性样本转移到具有未知参数和架构的其他模型，并匹配人类视觉系统的初始处理，我们发现在计算机视觉模型之间强烈转移的对抗性样本会影响人类观察者的分类。

Feb, 2018