该研究提出了采用自适应误导的方法抵御深度神经网络模型盗窃攻击，并针对现有所有模型盗窃攻击均使用 Out-Of-Distribution 输入进行了阐述，提出选择性错误预测的方法以显著降低攻击者克隆模型的准确率，同时最小化对良性用户准确率的影响，这种防御具有更好的安全性和准确度平衡，并且计算开销最小。

Nov, 2019

模型提取是一种关键的安全威胁，它通过算法和基于实现的方法进行攻击，我们关注嵌入式深度神经网络模型及标准错误攻击策略以进行模型提取攻击，成功地恢复了至少 90% 最显著位，并仅使用 8% 的训练数据集训练出了与受害模型近乎相同精度的替代模型。

Aug, 2023

介绍了一种名为 SNAFUE 的自动化方法，可用于识别神经网络的弱点，以找到‘复制 / 粘贴’攻击，利用这种方法可以生成对抗性数据。

Nov, 2022

本文研究了一种针对深度神经网络的新攻击范式，即在部署阶段修改模型参数以达到恶意目的，进而将该问题转换为二进制整数规划问题并使用交替方向乘子方法来求解，实验证明该方法优于其他攻击方法。

Feb, 2021

本文提出了一种基于实例攻击的算法，通过数据增强和分析恶意代码的数据组成部分，实现了在黑盒环境下欺骗深度神经网络的目的，从而提高了针对恶意代码的检测系统的鲁棒性。

Sep, 2022

研究表明 DNN 模型在语义分割任务中同样面临后门攻击威胁，为了在物体级别进行更复杂的操作，提出了一个新的攻击范例 ——fine-grained attack，成功构造了只污染了极小部分训练数据的攻击样本。

Mar, 2021

研究表明：恶意后门注入是指将恶意行为隐藏在深度神经网络中，在输入数据不包含恶意触发器时行为正常，但含有特定触发器时会调用事先定义好的恶意行为，触发器可以采用不同形式，这可以通过替换或扰动一组图像像素来对原始图像应用滤镜进行操作。

Jul, 2020

提出了一种新颖的后门攻击方法，通过使用预训练的受害模型从干净图像中提取低级和高级语义特征，并基于通道注意力生成与高级特征相关联的触发模式，然后使用编码器模型生成受污染的图像，同时维持对后门防御的鲁棒性，实验结果表明，该攻击方法在三个知名图像分类深度神经网络上取得了高攻击成功率，同时具有很好的隐秘性。

May, 2024

本文提出了一种基于实践观察的新的防御方法，旨在强化深度神经网络的结构，提高其预测稳定性，从而更难受到针对性攻击，并在多种攻击实验中证明了该方法的有效性，相比其他防御方法具有更好的表现，而且在训练过程中的开销几乎可以忽略不计。

Jul, 2017

提出了一种新的对抗样本解决方案，该方案通过随机破坏样本中的特征，阻止攻击者构建有影响力的对抗样本，从而显著提高深度神经网络对抗样本的鲁棒性，同时保持高分类准确性。

Oct, 2016