Jun, 2021

特征可视化有助于理解 CNN 激活的因果关系吗？

PDF
TL;DR在解释性人工智能方面，通过激活最大化可视化单元响应是一种被广泛应用的方法，而此研究测试了此方法是否能有效的帮助人们预测激活单元的变化，结果表明其在一定程度上有帮助，但并没有明显优势。
发现论文，激发创造
  • 典型自然图像比最先进的特征可视化更好地解释了卷积神经网络的激活

    本研究通过实验比较了合成图像和自然图像对于理解卷积神经网络信息处理的有效性，结果表明自然图像的信息传递成效更好。

    Oct, 2020

  • 透過特徵視覺化理解神經網絡：一項調查

    本章介绍了一种神经科学方法 ——Activation Maximization（AM），利用机器学习技术综合推理神经元的首选刺激，以大力激发人造或生物大脑中的单个细胞或细胞组，并讨论了现有 AM 技术的概率解释和其在网络调试和解释方面的应用。

    Apr, 2019

  • 不要相信你的眼睛：特征可视化的（不）可靠性

    通过对神经网络内部运作方式的可解释性实现可靠功能的可视化是建立在可重复连通性的基础之上，因此我们需要发展更可靠的特征可视化方法解释神经网络处理自然图像的能力。

    Jun, 2023

  • 利用结构化背景知识和演绎推理理解 CNN 隐藏神经元激活

    解释性人工智能中的一个重要挑战是如何正确解释隐藏神经元的激活：准确的解释可以揭示深度学习系统在输入上检测到的相关信息，解密了深度学习系统的黑盒特性。本文提供了一种基于大规模背景知识和概念归纳的符号推理方法的研究，旨在自动推断和验证隐藏神经元激活的解释，结果表明我们可以自动将背景知识的有意义标签附加到卷积神经网络的密集层的个体神经元上。

    Aug, 2023

  • 卷积神经网络如何看待世界 - 卷积神经网络可视化方法综述

    本文综述了通过 Activation Maximization、Network Inversion、Deconvolutional Neural Networks (DeconvNet) 以及 Network Dissection 等可视化手段实现 CNN 可解释性的方法，并探讨了这些方法在网络设计、优化和安全增强等领域中的实际应用价值。

    Apr, 2018

  • 通过自编码激活实现深度神经网络的因果学习和解释

    通过构建深度神经网络中的因果模型并使用自动编码器提取关键概念作为变量，我们开发了一种解释神经网络输出预测的方法，并使用该因果模型识别和可视化对最终分类具有显着因果影响的特征。

    Feb, 2018

  • 特征 CAM：解释性图像分类中的人工智能

    我们的研究比较了应用于图像分类的激活方法（ABM）中最先进的方法，并通过引入新技术 Feature CAM，得到了在可解释性方面比现有技术提高 3-4 倍的结果。

    Mar, 2024

  • 视觉因果特征学习

    提供了视觉行为的严格定义和一种能够广泛适用于人类、动物、神经元、机器人和其他感知系统中视觉驱动行为的方法，基于微观变量构建因果变量并通过最小化实验验证来获取因果知识。该定理与机器学习中的标准推理技术相连，最后提出一个主动学习方案来自动识别目标行为的视觉原因。

    Dec, 2014

  • 深度神经网络中每个神经元学习到的不同类型的特征的多方面可视化

    通过深度可视化技术，可以更好地了解深度神经网络。本文介绍了一种算法，通过合成每种类型的图像来清晰地揭示神经元的多重特征，并引入正则化方法使可视化结果更具解释性和清晰性。

    Feb, 2016

  • 特征强调：揭示自然图像中的哪些特征应对

    解释可视化图像中神经网络特征响应的位置和内容的新方法：feature accentuation。

    Feb, 2024