Mar, 2021

从空间变换域的敏感性不一致性检测对抗性样本

PDF
TL;DR本研究提出了一种基于敏感度不一致性的检测器（SID），可以检测小扰动水平下的对抗性样本。通过设计双分类器来解决正常样本和对抗性样本间的感知敏感度不一致性，相较于基于 LID，MD 和 FS 的算法，SID 在 AE 检测性能和泛化能力上均取得了更好的表现
deep neural networksadversarial examplesclassifiersensitivity inconsistencyae detection
发现论文，激发创造
  • 深度神经网络的图像边界上的不可察觉对抗攻击

    通过系统性攻击图像边界提出的一种不可察觉的对抗性攻击方法，有效攻击了六个 CNN 模型和 Vision Transformers，仅使用图像边界的 32% 作为输入，成功率达到 95.2%，峰值信噪比为 41.37 dB，借此可以更深入地理解对抗性样本，并给出了构造对抗性样本的不同视角。

    Aug, 2023

  • SSTA: 显著空间变形攻击

    本文提出了一种新颖的框架 Salient Spatially Transformed Attack (SSTA)，用于生成不可察觉的对抗性样本（AE），通过在最关键区域上估计平滑的空间变换度量来提高 AE 的隐匿性，相比其他方法，SSTA 在保持 100% 攻击成功率的同时，有效提升了 AE 的隐匿性。

    Dec, 2023

  • 基于语义矛盾检测对抗样本：你看到的不是网络看到的

    本研究提出了一种基于 ContraNet 框架和 metric learning 的新型 adversarial examples 检测方法，具有识别能力强、鲁棒性高和易于与其他防御技术相结合等优点。

    Jan, 2022

  • 深度神经网络模型的对抗样本检测：回顾与实验比较

    本文主要研究了针对神经网络分类器的测试时间攻击检测方法，并在不同数据集和场景下提供了八种最先进的检测器的实验结果，为此研究方向提供了挑战和未来的展望。

    May, 2021

  • 增强深度学习入侵检测系统的对抗鲁棒性的简单框架

    提出了一种新颖的 IDS 结构，它通过结合传统机器学习模型和深度学习模型来增强 IDS 对抗敌对攻击的鲁棒性，该结构包含 DL-based IDS、adversarial example detector 和 ML-based IDS 三个组件，并使用 DL 模型高预测准确性和 DL 模型与 ML 模型之间的低攻击可转移性来改善整个系统的鲁棒性。实验证明，在遭受对抗攻击时，该 IDS 系统在预测性能方面显著提高，高准确率，资源消耗低。

    Dec, 2023

  • 基于局部直方图均衡化的增强图像差异特征对抗样本检测

    基于高频信息增强策略，提出了一种针对对抗性样本的检测框架，可以在不修改现有检测模型的情况下，提高检测器的性能和降低部署成本。

    May, 2023

  • 神经网络失去了泛化能力？一个模型敏感性的视角

    本文提出了一种针对 Single Domain Generalization 的新策略 ——Spectral Adversarial Data Augmentation，通过提高模型对高敏感频率的学习能力，从而有效提高模型的泛化能力，各项实验均超过目前 Single-DG 方法的最佳表现。

    Dec, 2022

  • 利用对抗信息网络的自适应人脸识别

    本文介绍了一种针对人脸识别中源域和目标域数据不匹配问题的方法 —— 通过提出一种新的对抗信息网络来实现无监督域适应，并在两种情况下得到了验证。

    May, 2023

  • 基于情感分析的新对抗图像检测

    本研究提出了一种新的对抗性样本检测器，使用情感分析和神经网络中的隐藏层特征映射来对检测模型进行优化。实验结果表明，该检测器在检测对 ResNet 和 Inception 中性网络在 CIFAR-10、CIFAR-100 和 SVHN 数据集上最新攻击时，优于目前的检测算法，仅具有约 200 万参数，耗时少于 4.6 毫秒。

    May, 2023

  • 基于空间一致性信息的对抗样本特征刻画于语义分割

    本文旨在通过空间上下文信息表征对语义分割中的对抗样本进行防御，发现空间一致性信息可以被潜在地利用来检测对抗样本，本文所考虑的攻击型对抗样本在模型之间几乎不能传递，这些观察结果为研究如何应对和理解 DNNs 的弱点提供了新的视角。

    Oct, 2018