自适应多出口神经网络推断中的减速攻击：不是熊猫，而是树懒

ICLROct, 2020

自适应多出口神经网络推断中的减速攻击：不是熊猫，而是树懒

A Panda? No, It's a Sloth: Slowdown Attacks on Adaptive Multi-Exit Neural Network Inference

Sanghyun Hong, Yiğitcan Kaya, Ionuţ-Vlad Modoranu, Tudor Dumitraş

TL;DR本文旨在研究和针对 $IoT$ 设备中应用的深度神经网络 $（DNNs）$ 中的威胁问题，提出了一种针对多出口 $DNNs$ 的保护方案，并发现反对策略可以通过进行通用可重复使用的干扰来使 $DNNs$ 减速，如果不进行针对性防御，会对 $IoT$ 设备造成重大损失。

Abstract

Recent increases in the computational demands of deep neural networks (DNNs), combined with the observation that most input samples require only simple models, have sparked interest in $input$-$adaptive$ multi-exit architectures, such as MSDNets or Shallow-Deep Networks. These architec

input-adaptive multi-exit architectures adversarial attacks deep neural networks slowdown defending

发现论文，激发创造

BERT 失去耐心不会对抗对抗性放缓有鲁棒性

通过系统评估我们提出的减速攻击对多出口语言模型的鲁棒性，我们发现多出口机制越复杂，越容易受到减速攻击的影响，并且在对抗训练方面的效果有限，但使用会话模型进行输入清理可以有效去除扰动。这一研究表明需要进一步开发高效且鲁棒的多出口模型。

Oct, 2023

动态变压器提供了一种虚假的效率感

本文提出了一种名为 SAME 的攻击框架，重点针对多出口模型的内部预测，有效地降低了各种多出口模型的效率，验证了其有效性和泛化能力。

May, 2023

模型压缩深度学习系统在对抗攻击下的安全分析与增强

通过综合考虑模型重塑和输入扰动，本研究首次探讨了实际模型优化的深度学习系统中的多因素对抗攻击问题，并开发了一种名为 “梯度抑制” 的防御技术，能够有效减轻对软硬件导向深度学习的对抗攻击。

Feb, 2018

高效的对抗攻击防御

本文提出了一种基于实践观察的新的防御方法，旨在强化深度神经网络的结构，提高其预测稳定性，从而更难受到针对性攻击，并在多种攻击实验中证明了该方法的有效性，相比其他防御方法具有更好的表现，而且在训练过程中的开销几乎可以忽略不计。

Jul, 2017

使用自适应虚假信息防御模型窃取攻击

该研究提出了采用自适应误导的方法抵御深度神经网络模型盗窃攻击，并针对现有所有模型盗窃攻击均使用 Out-Of-Distribution 输入进行了阐述，提出选择性错误预测的方法以显著降低攻击者克隆模型的准确率，同时最小化对良性用户准确率的影响，这种防御具有更好的安全性和准确度平衡，并且计算开销最小。

Nov, 2019

早期退出网络的自适应推断：设计、挑战与方向

该研究论文介绍了早期退出网络的设计方法和最新进展，比较了与其他高效推理解决方案的优劣，并提出了未来研究的挑战和方向。

Jun, 2021

MetaAdvDet：面向演化型对抗攻击的鲁棒性检测

通过元学习方法构建的双网络框架，旨在解决深度神经网络在遇到少量样本的新对抗攻击时检测精确度低的问题。在 CIFAR-10，MNIST 和 Fashion-MNIST 三个数据集上实验表明，该方法相比于传统的对抗攻击检测方法具有更高的有效性。

Aug, 2019

具有对抗鲁棒性的深度神经网络及其在恶意软件检测中的应用

提出了一种新的对抗样本解决方案，该方案通过随机破坏样本中的特征，阻止攻击者构建有影响力的对抗样本，从而显著提高深度神经网络对抗样本的鲁棒性，同时保持高分类准确性。

Oct, 2016

多出口网络的模型窃取攻击

本文提出了一种新的模型窃取攻击方法，旨在窃取多出口神经网络模型的分类和输出策略，使用贝叶斯变点检测来分析目标模型的输出策略，并设计了一种新的输出策略搜索算法来寻找最优输出策略。实验证明了该方法的有效性。

May, 2023

防御深度神经网络后门攻击

本文研究深度神经网络面临的后门攻击问题，提出了基于 L∞规范的神经元修剪方法来消除后门，实验证明该方法成功率显著降低，并对清晰图像保持高分类准确度。

Feb, 2020