Aug, 2023

SAfER: 高效稳健的神经网络推理的层级敏感性评估

PDF
TL;DR深度神经网络在计算机视觉任务中表现出色，但对于关键应用，需要研究它们的行为和决策原因。本文提出了调查 DNN 层次重要性的方法，旨在估算其对准确性的敏感性，并提出了用于评估该方法的新数据集，为提高 DNN 效率和硬件故障鲁棒性（如位交换）提供了参考。
发现论文，激发创造
  • 深度神经网络的敏感性分析

    本文提出了一种新的扰动流形及其关联的影响度量方法，通过该方法可以量化各种扰动对 DNN 分类器的影响，主要应用于四个模型构建任务：检测异常值、分析模型体系结构的敏感性、比较训练和测试集之间的网络敏感性以及定位易受攻击的区域。实验证明，该方法在 CIFAR10 和 MNIST 数据集上的 ResNet50 和 DenseNet121 模型中具有较好的性能。

    Jan, 2019

  • 深度神经网络基于梯度的归因方法的进一步理解

    本研究旨在对四种基于梯度的属性方法进行分析，并在图像和文本分类领域的多个数据集上测试这些方法，提出了一种新的评估指标 Sensitivity-n，并在改进一些方法后建立了一个统一框架，使这些方法能够进行直接比较和更容易实现。

    Nov, 2017

  • DLA: 密集层分析用于对抗样本检测

    本文介绍了一种新的端到端框架来检测深度神经网络中可能存在的对抗样本，采用神经元覆盖率引导测试来分析 DNN 的密集层激活模式，以实现实时检测，能够覆盖各种类型的 DNN 架构，包括 LSTM，防御了最先进的攻击，同时提供确保无法轻易绕过的白盒自适应攻击。

    Nov, 2019

  • 深度神经网络对扰动的敏感性估计器

    深度神经网络对扰动的敏感性估计器的推导和测试，以及对两个卷积神经网络进行的随机扰动和对抗攻击的研究。

    Jul, 2023

  • 测试神经网络的输入优先级排序

    本文旨在通过情感测量的方式来识别深度神经网络模型的弱点。通过三种情感测量指标：置信度、不确定性和惊奇度的比较，发现这些指标能够有效地通过对模型计算的分析来辨识出暴露 DNN 行为不当的输入。

    Jan, 2019

  • 探究基于权重扰动的深层神经网络应用于虹膜攻击检测

    对深度神经网络 (DNNs) 进行参数扰动敏感性分析，使用权重和偏差参数对 VGG、ResNet 和 DenseNet 三种 DNN 架构进行实验，以改进虹膜攻击检测的性能，参数级集成平均提高 43.58% 和 9.25%。

    Nov, 2023

  • 深度神经网络的覆盖率与鲁棒性之间存在有限的相关性

    通过实证研究 100 个 DNN 模型和 25 种指标，发现 DNN 的测试覆盖率与鲁棒性之间的相关性有限，即提高测试覆盖率并不能帮助提高鲁棒性。这个研究提出的数据集和实现也可以作为测试 DNN 的基准。

    Nov, 2019

  • 基于敏感度的卷积神经网络图像分类剪枝框架 (SBPF)

    通过增加一些额外的损失，从推理准确性的角度来评估每个层的重要性，我们提出了一种敏感度基于的方法来评估卷积神经网络中每个层的重要性，从而实现鲁棒性压缩。

    Aug, 2022

  • 时间关注：使用时间序列归因方法的全面基准测试

    本文重点研究时间序列分析，对比了几种最先进的卷积分类器解释方法，发现扰动法是较优选项，但也强调选择最适合的归因方法与所需用例的选择密切相关。

    Feb, 2022

  • 评估深度神经网络学习的可视化

    本文提出了一种可视化深度神经网络分类决策的方法，使用基于区域扰动的方法评估热图，并比较了三种不同方法计算的热图对网络分类决策的解释力，结果发现基于层级相关传播方法对解释分类决策的效果更好。同时，本文还探讨了利用热图进行神经网络性能无监督评估的方法。

    Sep, 2015