Mar, 2023

通过侧信道泄漏检测对抗性样本的 EMShepherd

PDF
TL;DR通过捕获模型执行的电磁痕迹（EM traces）并利用它们进行对抗性检测，提出了一种 EMShepherd 框架。该框架利用模型输出的 EM 签名进行训练，再对新输入进行分类，来检测对抗性攻击。该方法可在常用 FPGA 深度学习加速器上，对来自 Fashion MNIST 和 CIFAR-10 数据集的不同对抗性攻击进行有效检测，检测率达到 100％。
deep neural networksadversarial attacksadversarial detectionemshepherdem traces
发现论文，激发创造
  • 检测来自伪像的对抗性样本

    本文介绍了一种利用深度学习神经网络中 Bayesian 不确定性估计和密度估计的方法，可以实现对于对抗样本的检测，具有很好的泛化性能，并在标准分类任务上取得了 85-93% 的 ROC-AUC 表现。

    Mar, 2017

  • 通过模型突变测试实现深度神经网络的对抗样本检测

    该研究提出了一种使用统计学假设检验和模型变化测试的敏感性测量方法，以在运行时检测基于 MNIST 和 CIFAR10 数据集的最新攻击方法生成的对抗样本的方法。结果表明，该方法可以高效准确地检测出对抗样本。

    Dec, 2018

  • MetaAdvDet：面向演化型对抗攻击的鲁棒性检测

    通过元学习方法构建的双网络框架，旨在解决深度神经网络在遇到少量样本的新对抗攻击时检测精确度低的问题。在 CIFAR-10，MNIST 和 Fashion-MNIST 三个数据集上实验表明，该方法相比于传统的对抗攻击检测方法具有更高的有效性。

    Aug, 2019

  • 高效的对抗攻击防御

    本文提出了一种基于实践观察的新的防御方法，旨在强化深度神经网络的结构，提高其预测稳定性，从而更难受到针对性攻击，并在多种攻击实验中证明了该方法的有效性，相比其他防御方法具有更好的表现，而且在训练过程中的开销几乎可以忽略不计。

    Jul, 2017

  • 具有对抗鲁棒性的深度神经网络及其在恶意软件检测中的应用

    提出了一种新的对抗样本解决方案，该方案通过随机破坏样本中的特征，阻止攻击者构建有影响力的对抗样本，从而显著提高深度神经网络对抗样本的鲁棒性，同时保持高分类准确性。

    Oct, 2016

  • 副通道攻击破坏嵌入式人工智能的黑箱特性

    通过利用边信道攻击以提取 logits，我们提出了一种架构无关的黑盒攻击方法用于生成具有欺骗性的对抗样本，以证明边信道攻击在攻击神经网络时的有效性。

    Nov, 2023

  • 基于平衡传播训练的能量模型的鲁棒性如何？

    通过对 CIFAR-10 和 CIFAR-100 数据集的实验，我们的工作首次探索了 EBMs 对自然损坏和对抗攻击的稳健性，结果表明 EBMs 在白盒攻击、黑盒攻击和自然扰动方面的稳健性与经过对抗训练的 DNNs 相当，而无需牺牲清晰度准确性或使用额外的训练技术。

    Jan, 2024

  • 使用自适应噪声降低在深度网络中检测对抗样本

    该文章提出了一种直接部署到标准深度神经网络模型中的简单方法，通过引入两个经典图像处理技术，标量量化和平滑空间滤波，将图像中的扰动降低到最小，使用图像熵作为度量标准，可以有效地检测出对基于多种攻击技术的先进深度学习模型的 20,000 多个对抗样本，最终的实验结果表明，该检测方法可以取得 96.39％的高整体 F1 评分。

    May, 2017

  • 基于情感分析的新对抗图像检测

    本研究提出了一种新的对抗性样本检测器，使用情感分析和神经网络中的隐藏层特征映射来对检测模型进行优化。实验结果表明，该检测器在检测对 ResNet 和 Inception 中性网络在 CIFAR-10、CIFAR-100 和 SVHN 数据集上最新攻击时，优于目前的检测算法，仅具有约 200 万参数，耗时少于 4.6 毫秒。

    May, 2023

  • ECGadv: 生成对抗性心电图以误导心律失常分类系统

    本文通过两种攻击模型，分析了 DNN 算法在心电诊断系统中的盲点，并呼吁对于相应的反制措施的重视。

    Jan, 2019