Oct, 2023

通过极值理论理解参数重要性

PDF
TL;DR通过分析极值理论，我们在此工作中试图弥合参数显著性排名对于寻找引发误识别的滤波器存在的知识差距。我们的实验结果表明，我们的重述方法也可以检测恶意滤波器，并且相比于现有的参数显著性方法，基于极点方法的参数显著性显示了更少的偏差。
deep neural networksparameter saliencymisclassificationconvolutional neural networksextreme value theory
发现论文，激发创造
  • 基于多尺度深度 CNN 特征的视觉显著性检测

    本研究采用深度卷积神经网络来提取多尺度特征，实现了高质量的图像显著性模型，另外还结合了手工特征，取得了很好的效果，提供了一个相应的实验数据集。

    Sep, 2016

  • 态度问题：专注于积极和主动的梯度以提升显著图

    本文探讨了从显著性图中挖掘梯度符号的作用，如何更好地理解多类别分类问题，并揭示了卷积神经网络对图像像素的关注和影响。

    Sep, 2023

  • 基于多尺度深度特征的视觉显著性

    本文介绍了使用卷积神经网络进行图像视觉显著性建模的方法，采用新的神经网络结构和改进的空间相关性方法，同时使用多重分割提高了性能，实验表明我们提出的方法在公共基准测试中的表现优于目前已发表的最先进技术。

    Mar, 2015

  • 显著图的合理性检查

    本文对几种显著性方法进行实验和理论探索，提出用可行的方法来评估一种方法所能提供和不能提供的解释类型。实验证明，有些现有的显著性方法具有独立性，这些方法不受模型和数据生成过程的影响，因此，那些未通过所提出测试的方法，对于对数据或模型敏感的任务（ 如在数据中找到异常值，解释模型所学到的输入和输出之间的关系以及调试模型）是不适当的。与边缘检测类比，本文发现一些显著性方法无需训练数据或模型就能有效实现其功能。

    Oct, 2018

  • 基于显著性引导训练的深度学习解释性改进

    本文介绍了一种基于显著性引导培训的神经网络方法，可以有效降低噪声导致的特征归因不准确，并通过实验表明这种方法能够在保持预测性能的同时提高模型可解释性。

    Nov, 2021

  • Saliency 图为什么嘈杂？嘈杂 Saliency 图的原因和解决方案

    本文通过提出新的假设 — 噪声可能出现在 Saliency Map 中，因为无关特征会经过 ReLU 激活函数，提出了一种称为 Rectified Gradient 的方法，通过层次阈值反向传播来缓解这个问题，并在 CIFAR-10 和 ImageNet 上的神经网络实验中展示了我们的方法的有效性和其他归属方法的优越性。

    Feb, 2019

  • 稀缺训练数据情境下细粒度物体识别的显著性

    本文研究利用显著性在很少的训练数据时提高卷积神经网络的分类准确性。我们利用在现有 CNN 架构中添加显著性分支来引导特征提取过程，从而训练出一个具有高水平的对象识别精度的模型。我们的实验表明，显著性方法可以显著提高网络性能，特别是在很少的训练数据情况下。

    Aug, 2018

  • 重访反向传播显著性方法

    本文通过分析反向传播型显著性方法，提出了一个框架，将多种方法统一起来，进而提出了一个新的基于空间梯度特征的显著性方法 - NormGrad，并通过将不同层的显著图进行结合，测试不同层级网络提取信息的能力，并且引入了一个类别敏感指标和元学习方法以提高对输出类的敏感度。

    Apr, 2020

  • 高效明晰人工智能的显著性地图

    本研究提出了一种针对深度卷积神经网络的可解释性 AI 显著性图方法，其比流行的高分辨率梯度方法更为高效，并且在精度上也与其相当或更好。通过使用 Layer Ordered Visualization of Information，展示了该方法比其他显著性图方法提供更有趣的网络规模内比例贡献比较。此外，该方法在资源有限的平台上如机器人、手机、低成本工业设备、天文和卫星图像等方面是可行的。

    Nov, 2019

  • 用概念显著性图像可视化深度生成模型中相关特征

    提出了一种新的方法来获得生成模型中已知或新的高级概念的显著性图，即概念显著性图，对于深度学习中的潜在变量模型提高了解释性。该方法被应用于 CelebA 数据集的 VAE 潜在空间中和小鼠嗅球的空间转录组数据中，证明了其在高级概念的解释和复杂生物系统理解中的潜力。

    Oct, 2019