AAAIJan, 2019

深度神经网络的敏感性分析

PDF
TL;DR本文提出了一种新的扰动流形及其关联的影响度量方法，通过该方法可以量化各种扰动对 DNN 分类器的影响，主要应用于四个模型构建任务：检测异常值、分析模型体系结构的敏感性、比较训练和测试集之间的网络敏感性以及定位易受攻击的区域。实验证明，该方法在 CIFAR10 和 MNIST 数据集上的 ResNet50 和 DenseNet121 模型中具有较好的性能。
发现论文，激发创造
  • 深度神经网络对扰动的敏感性估计器

    深度神经网络对扰动的敏感性估计器的推导和测试，以及对两个卷积神经网络进行的随机扰动和对抗攻击的研究。

    Jul, 2023

  • 探究基于权重扰动的深层神经网络应用于虹膜攻击检测

    对深度神经网络 (DNNs) 进行参数扰动敏感性分析，使用权重和偏差参数对 VGG、ResNet 和 DenseNet 三种 DNN 架构进行实验，以改进虹膜攻击检测的性能，参数级集成平均提高 43.58% 和 9.25%。

    Nov, 2023

  • SAfER: 高效稳健的神经网络推理的层级敏感性评估

    深度神经网络在计算机视觉任务中表现出色，但对于关键应用，需要研究它们的行为和决策原因。本文提出了调查 DNN 层次重要性的方法，旨在估算其对准确性的敏感性，并提出了用于评估该方法的新数据集，为提高 DNN 效率和硬件故障鲁棒性（如位交换）提供了参考。

    Aug, 2023

  • 基于噪声敏感度分析的深度神经网络测试优先级技术

    本研究提出一种基于噪声敏感性分析的测试优先技术，可以有效选择深度神经网络模型中噪声敏感性比较高的示例。通过在四个图像数据集和两个深度神经网络模型上的实验证明，该方法能够成功地挑选出噪声敏感度较高的示例。

    Jan, 2019

  • 深度神经网络分类器在乳腺癌筛查中的鲁棒性理解

    深度神经网络可用于乳腺癌筛查，但在应用时需要考虑输入扰动的鲁棒性，本文探究了针对自然图像的文献和针对乳腺 X 线摄影术图像的差异，通过测量受四种常见扰动影响的乳腺 X 线摄影术图像分类器的灵敏度，得出结论认为已有文献可供参考；本文同时提出了低通滤波的问题，这可能会影响乳腺癌的预测，因此，对于乳腺 X 线摄影术图像分类器来说，去除低通滤波对于诊断有利。

    Mar, 2020

  • 神经网络中的灵敏度和泛化性：一项实证研究

    本研究通过对深度学习模型的多方面度量，特别是模型对输入扰动的敏感性度量，研究了大规模的、过度参数化的神经网络与小规模的夹杂网络的复杂度与泛化之间的紧张关系，并得出结论：训练的神经网络在其训练数据范围内更加鲁棒，这种鲁棒性与泛化能力有关联，而诸如数据扩增和修正线性单元等好的泛化因素会带来更强的鲁棒性。

    Feb, 2018

  • 使用约束测量神经网络的健壮性

    提出了度量神经网络抗干扰能力的度量方法，并设计了一种基于线性规划方法的算法来近似度量方法。该算法对比现有算法生成了更加准确的度量估计，并且可以被用来提高神经网络的稳健性能。

    May, 2016

  • 深度神经网络的噪声响应分析评估其稳健性和结构恶意软件指纹

    本文提出了一种快速特征生成技术，可以对深度神经网络进行快速的安全检测，尤其是可以在几秒钟内检测出所谓的后门 (backdoors)，并且无需大量计算资源和训练数据。

    Jul, 2020

  • 基于深度学习的压缩感知鲁棒性评估

    对比深度神经网络和传统的稀疏方法，本文分析了图像重建的鲁棒性，并发现深度神经网络方法比传统方法在保持稳健性的前提下，提供更高的重建质量。

    Feb, 2021

  • 深度神经网络中局部不稳定性的测量和缓解

    通过研究模型在训练过程中的随机性，我们发现在自然语言理解任务中，模型的预测结果的不稳定性会对一部分查询产生影响，提出了一种衡量稳定性现象的方法 —— 标签熵，我们研究了数据不可知的正则化方法和新的数据中心方法，发现它已在计算成本的分数中取得了 90% 的性能优势以及金标准的表现。

    May, 2023