Jul, 2020

深度神经网络的噪声响应分析评估其稳健性和结构恶意软件指纹

PDF
TL;DR本文提出了一种快速特征生成技术，可以对深度神经网络进行快速的安全检测，尤其是可以在几秒钟内检测出所谓的后门 (backdoors)，并且无需大量计算资源和训练数据。
deep neural networkscybersecuritybackdoordetectionimage classifier
发现论文，激发创造
  • 在数据有限的配置中减轻深度神经网络中的后门问题

    通过对被污染神经元的特征进行排名，我们提出的方法可以显著降低攻击成功的几率超过 50%，即使只有极小的干净数据集，例如 CIFAR-10 数据集的十个样本，并且不会明显损害模型性能。此外，我们提出的方法比基准方法运行速度快三倍。

    Nov, 2023

  • 变体中的恶魔：DNN 的统计分析，用于强健后门污染检测

    本文研究了深度神经网络中的后门污染问题，提出了一种基于 EM 算法的攻击检测技术，可有效识别出攻击样本，包括新的污染数据攻击，并且对于攻击方的规避尝试也具有较强的鲁棒性。

    Aug, 2019

  • 具有对抗鲁棒性的深度神经网络及其在恶意软件检测中的应用

    提出了一种新的对抗样本解决方案，该方案通过随机破坏样本中的特征，阻止攻击者构建有影响力的对抗样本，从而显著提高深度神经网络对抗样本的鲁棒性，同时保持高分类准确性。

    Oct, 2016

  • 通过扰动的迁移性检测神经网络后门

    研究表明深度神经网络中容易发生 backdoor 污染攻击，本文研究发现有一种有趣的特性，就是在有污染的模型中敌对扰动更容易传输从而用这个特性提出一种能在 TrojAI 基准测试中检测污染模型的方法。

    Mar, 2021

  • 输入空间到特征表示的无感后门攻击

    本文提出了一种新颖的隐形后门攻击方法，该方法通过将触发器模式视为一种特殊噪声并以伯努利分布生成参数，从而在不影响正常输入的情况下利用训练集合并夹杂恶意信息，并考虑对多种最新防御措施的效果验证。

    May, 2022

  • 深度学习后门

    研究表明：恶意后门注入是指将恶意行为隐藏在深度神经网络中，在输入数据不包含恶意触发器时行为正常，但含有特定触发器时会调用事先定义好的恶意行为，触发器可以采用不同形式，这可以通过替换或扰动一组图像像素来对原始图像应用滤镜进行操作。

    Jul, 2020

  • 神经网络中的可扩展后门检测

    该论文提出了一种基于触发器反向工程的方法来检测深度学习模型的后门攻击，该方法在实验中表现卓越，能完美地区分被套件攻击的模型和纯模型。

    Jun, 2020

  • 基于分散像素扰动的图像分类器模型无感后门触发器

    本文提出了一种新的背门触发器，是一个在图像内弱扰动而在整体上产生强识别的三维二进制图案，既易于生成也高效，可以有效地攻击深度神经网络模型，并超越了现有的已知攻击方式。

    Aug, 2022

  • 深度神经网络二分类的噪声敏感性和稳定性

    通过研究 DNN 分类器的布尔函数序列的噪声敏感性，深入理解了常见 DNN 模型中观察到的非鲁棒现象，并探讨了两种标准 DNN 架构（完全连接和卷积模型）在高斯权重下的特性。

    Aug, 2023

  • 基于深度学习的人脸识别系统对抗性攻击的稳健性解析

    本文针对深度神经网络在人脸识别中的鲁棒性进行了研究，分析了深度学习算法的脆弱性，建立了分类器来检测对深度网络中隐藏层的攻击，并提出了多种方法来缓解攻击影响并提高神经网络的鲁棒性。

    Feb, 2018