May, 2024

HOLMES：使用多个检测器检测对抗样本

PDF
TL;DR通过监测深度神经网络（DNNs）的输出（logits），我们提出了 HOLMES（Hierarchically Organized Light-weight Multiple dEtector System），用于检测潜在的对抗性示例，以加强 DNNs 并最小化其对实际环境的威胁。HOLMES 能够高精度地区分来自多种攻击方式产生的未知对抗性示例，并且相较于单一检测系统具有较低的误报率，在适应性模型中表现出色。
deep neural networksadversarial examplesdnn modelsholmesdetectors
发现论文，激发创造
  • MetaAdvDet：面向演化型对抗攻击的鲁棒性检测

    通过元学习方法构建的双网络框架，旨在解决深度神经网络在遇到少量样本的新对抗攻击时检测精确度低的问题。在 CIFAR-10，MNIST 和 Fashion-MNIST 三个数据集上实验表明，该方法相比于传统的对抗攻击检测方法具有更高的有效性。

    Aug, 2019

  • 基于情感分析的新对抗图像检测

    本研究提出了一种新的对抗性样本检测器，使用情感分析和神经网络中的隐藏层特征映射来对检测模型进行优化。实验结果表明，该检测器在检测对 ResNet 和 Inception 中性网络在 CIFAR-10、CIFAR-100 和 SVHN 数据集上最新攻击时，优于目前的检测算法，仅具有约 200 万参数，耗时少于 4.6 毫秒。

    May, 2023

  • DLA: 密集层分析用于对抗样本检测

    本文介绍了一种新的端到端框架来检测深度神经网络中可能存在的对抗样本，采用神经元覆盖率引导测试来分析 DNN 的密集层激活模式，以实现实时检测，能够覆盖各种类型的 DNN 架构，包括 LSTM，防御了最先进的攻击，同时提供确保无法轻易绕过的白盒自适应攻击。

    Nov, 2019

  • 基于检测的防御策略：从隐写分析角度防御对抗样本

    本研究提出了一种检测对抗性样例的方法，通过估计对抗性攻击造成的修改概率来增强隐写分析特征，实验证明该方法可以准确检测对抗性样例，并且没有基于神经网络，而是基于高维人工特征和 FLD (Fisher Linear Discriminant) 系列，因此不能直接进行二次对抗性攻击。

    Jun, 2018

  • 基于局部直方图均衡化的增强图像差异特征对抗样本检测

    基于高频信息增强策略，提出了一种针对对抗性样本的检测框架，可以在不修改现有检测模型的情况下，提高检测器的性能和降低部署成本。

    May, 2023

  • 高效的对抗攻击防御

    本文提出了一种基于实践观察的新的防御方法，旨在强化深度神经网络的结构，提高其预测稳定性，从而更难受到针对性攻击，并在多种攻击实验中证明了该方法的有效性，相比其他防御方法具有更好的表现，而且在训练过程中的开销几乎可以忽略不计。

    Jul, 2017

  • 具有对抗鲁棒性的深度神经网络及其在恶意软件检测中的应用

    提出了一种新的对抗样本解决方案，该方案通过随机破坏样本中的特征，阻止攻击者构建有影响力的对抗样本，从而显著提高深度神经网络对抗样本的鲁棒性，同时保持高分类准确性。

    Oct, 2016

  • 使用自适应噪声降低在深度网络中检测对抗样本

    该文章提出了一种直接部署到标准深度神经网络模型中的简单方法，通过引入两个经典图像处理技术，标量量化和平滑空间滤波，将图像中的扰动降低到最小，使用图像熵作为度量标准，可以有效地检测出对基于多种攻击技术的先进深度学习模型的 20,000 多个对抗样本，最终的实验结果表明，该检测方法可以取得 96.39％的高整体 F1 评分。

    May, 2017

  • 深度防御：用改进的对抗训练训练 DNNs 提高其鲁棒性

    本文提出了一种名为 “deep defense” 的训练方法来解决深度神经网络易受到对抗样本攻击的问题，通过将对抗扰动的正则化器与分类目标相结合，得到的模型能够直接且准确地学习抵御潜在的攻击，实验证明该方法在不同数据集上对比对抗 / Parseval 正则化方法有更好的效果。

    Feb, 2018

  • 恶意软件检测中的对抗样本探索

    研究卷积神经网络在恶意软件检测中的应用，探索对抗样本在该领域中的影响，发现之前的攻击不如之前报告的那么有效，同时还存在架构上的弱点，容易遭受新的攻击策略，继而探讨了攻击策略的可变性、提高攻击有效性的权衡以及单步攻击的可转移性。

    Oct, 2018