Feb, 2018

通过自编码激活实现深度神经网络的因果学习和解释

PDF
TL;DR通过构建深度神经网络中的因果模型并使用自动编码器提取关键概念作为变量，我们开发了一种解释神经网络输出预测的方法，并使用该因果模型识别和可视化对最终分类具有显着因果影响的特征。
deep neural networksexplanationcausal modelautoencoderimage classification
发现论文，激发创造
  • 神经网络的以人为本的概念解释

    该研究论文介绍了基于概念的解释，比如概念激活向量可以有效地描述概念，并讨论了自动提取概念的方法，展示了它们在真实世界应用中的效用。

    Feb, 2022

  • 深度学习通过原型进行基于案例的推理：一种解释其预测的神经网络

    本文中，我们提出一种新的深度学习网络架构，其中包含自编码器和原型层，这种网络可以自然地解释每个预测的原因，并且能够进行分类。

    Oct, 2017

  • 利用结构化背景知识和演绎推理理解 CNN 隐藏神经元激活

    解释性人工智能中的一个重要挑战是如何正确解释隐藏神经元的激活：准确的解释可以揭示深度学习系统在输入上检测到的相关信息，解密了深度学习系统的黑盒特性。本文提供了一种基于大规模背景知识和概念归纳的符号推理方法的研究，旨在自动推断和验证隐藏神经元激活的解释，结果表明我们可以自动将背景知识的有意义标签附加到卷积神经网络的密集层的个体神经元上。

    Aug, 2023

  • 使用概念归纳解释深度学习隐藏神经元的激活过程

    本文通过使用来自维基百科概念层次结构的近 200 万类别级的大规模背景知识与一种称为 “概念归纳” 的符号推理方法，提出并演示了一种方法来自动附加有意义的标签到卷积神经网络的密集层中的个别神经元，以实现对神经元激活的解释。

    Jan, 2023

  • 可解释方法中的婴儿大脑注意力方式

    该文提出了一种名为 “可解释的几何深度网络” 的端到端学习方法，用于在高维数据中实现精细的可解释性，例如神经成像和神经科学研究。该方法采用学习解释性因素来增强鉴别性表示提取，以实现可解释的预测和分类结果。

    Jan, 2023

  • 深度神经网络的理解、可视化和解释调查

    该篇论文综述了深度神经网络在机器学习中的应用，针对一些需要保证安全性的决策（如控制系统和医疗应用），介绍了当前解释性人工智能（XAI）领域的研究，探究和解释 DNNs 内部和整体行为的方法。

    Feb, 2021

  • 通过干预解释潜空间

    本研究通过使用干预机制，利用离散变分自编码器来转移预测类别，进而可视化任何隐藏层的编码信息和对应的被干预表示来揭示深度神经网络的隐含概念，并通过评估原始表示与被干预表示之间的差异来确定可改变类别的概念，从而提高模型的可解释性。我们在 CelebA 数据集上展示了我们方法的有效性，并展示了有偏差数据的各种可视化并提供不同的干预方法来揭示和更正偏见。

    Dec, 2021

  • 无监督学习神经网络解释神经网络（扩展摘要）

    使用自编码器技术的无监督方法来学习 Neural Network，通过解释 CNN 中的可解释视觉概念来改善图像特征的可解释性。该方法不需要任何关于对象部件或纹理的监督信号进行训练。

    Jan, 2019

  • 深度神经网络解释

    研究了两种深度神经网络解释说明的主流方向，一种是基于特征的事后解释方法，另一种是自解释的神经网络模型，并生成自然语言解释。

    Oct, 2020

  • 通过可视化因果关注实现自动驾驶车辆的可解释性学习

    本研究探讨了可解释的自动驾驶车辆中使用视觉解释的方法，使乘客、保险公司、执法机构和开发人员能够理解神经网络控制模型的行为，该模型采用了视觉关注模型进行训练，并应用因果过滤步骤来确定哪些输入区域实际上影响了输出。该方法在三个数据集上进行了有效性研究，证明了其在自动驾驶行为和人类驾驶行为中的应用价值。

    Mar, 2017