Apr, 2024

使用修剪的逐层相关传播稀疏解释神经网络

PDF
TL;DR我们提出了一种修改后的解释方法，通过修剪不同层的相关传播来降低噪音，同时集中关注最重要的特征，从而提高深度神经网络输出的解释性。
explainabilitydeep neural networksexplanation methodsrelevance propagationnoise reduction
发现论文，激发创造
  • 层级相关性传播用于可解释的推荐

    本文探讨使用深度学习的模型进行推荐解释的问题，我们使用深度卷积神经网络从输入图像中提取相关特征，并在特征空间中识别图像之间的相似性，最后使用 Amazon 产品数据集验证了我们方法的有效性。

    Jul, 2018

  • 通过解释剪枝：一种用于深度神经网络剪枝的新标准

    本文提出了一种基于可解释性人工智能概念的 CNN 剪枝方法，通过自动寻找最相关的权重或过滤器，不需要人工调节超参数即可高效压缩模型，而且在具有资源约束的情况下表现更优，适用于计算机视觉领域的任务。

    Dec, 2019

  • 自编码器的分层相关传递解锁

    我们提出了一个快速的可解释性解决方案，通过深度泰勒分解框架扩展层级相关传播方法，引入了一种新的验证技术，与基线方法进行比较，在缺少基础真实数据的情况下突出了所提出的可解释性解决方案的计算和质量方面的优势。

    Mar, 2023

  • 针对具有本地重正化层神经网络的逐层相关性传播

    本文提出了一种扩展分层关联传播到具有局部重新规范化层的神经网络的方法，并在 CIFAR-10、Imagenet 和 MIT Places 数据集上评估了该方法的性能。

    Apr, 2016

  • 通过逐层相关性传递解释复杂机器学习模型的预测

    本文介绍一种基于输入变量对深度神经网络分类决策进行分解的技术，以提高其透明度和可解释性。

    Nov, 2016

  • 解释性深度学习模型用于专利分类中的黑匣子揭示

    通过介绍层次相关传播方法，我们提出了一种新颖的深度可解释专利分类框架，用于提供人类可理解的预测解释。实验结果表明，对于各种评估指标，生成的解释突出了与预测类别相一致的重要相关词汇，使预测结果更易理解，并有助于推广复杂的 AI 专利分类方法在实际应用中的采用。

    Oct, 2023

  • 利用 LRP 最佳实践解释神经网络决策

    本文研究探讨了解释型人工智能（XAI）中的一种常用方法 —— 层级相关性传递（LRP），发现新的应用方式能够更好地表征模型的推理，同时提高 LRP 的对象定位和类别区分性。

    Oct, 2019

  • 从 “在哪里” 到 “是什么”: 通过概念关联传播实现人类可理解的解释

    该论文介绍了概念相关传播 (CRP) 方法，该方法结合了本地和全局 XAI 的观点，从而允许回答单个预测的 “何时” 和 “何物” 的问题，而无需施加其他限制。作者进一步介绍了相关性最大化的原则，以找到编码概念的有用代表性示例。作者演示了该方法在各种不同的设置中的能力，展示了概念相关传播和相关性最大化如何通过概念地图、概念组合分析和概念子空间的量化调查及其在细粒度决策中的作用，提供更人性化的解释和深入的模型表示和推理见解。

    Jun, 2022

  • 计算病理学中图神经网络解释器的量化

    本文提出了基于生物实体的图形处理和图形解释方法，以便通过使用可量化的统计指标衡量层次相关传播、基于梯度的显著性和图形修剪方法三种图形解释器，让组织病理学家容易理解。实验结果在大量的乳腺癌样本上证明了这些方法的可行性和有效性。

    Nov, 2020

  • 解释和解读 LSTMs

    本章节探究如何使 Layer-wise Relevance Propagation (LRP) 技术适用于序列数据建模和预测所使用的 LSTM 架构，需要更新传播方案并扩展基础理论框架以提供准确的解释。

    Sep, 2019