Jun, 2024

Attri-Net: 一种用于多标签分类的全局和局部本质可解释模型，采用类特定反事实

PDF
TL;DRAttri-Net 是一种用于多标签分类的具有内在可解释性的模型，它能提供局部和全局解释，通过生成类别特定的归因图，并基于归因图通过逻辑回归分类器进行分类。该模型在保持分类性能的同时，能够生成与临床知识一致的高质量解释。
interpretabilitymachine learningmedical applicationsexplanation methodsmulti-label classification
发现论文，激发创造
  • 神经网络的全局解释：预测的映射景观

    该研究提出了一种名为 GAM 的方法，可以生成全局归因，解释神经网络预测的全局地貌。该方法在仿真数据和真实数据上得到了验证，并且通过用户研究证明了对实践者的直观性，以提高神经网络决策的透明度。

    Feb, 2019

  • 利用归因使神经网络可解释化：应用于隐式信号预测

    本文提出了一种新型的可解释深度神经网络的解释，通过使用掩蔽权重，可以将隐藏特征分解成几个输入限制的子网络，并训练成专家混合的增强模型，为复杂的机器学习模型提供说明，提高其效率，并实现了对合理解释进行推荐任务。

    Aug, 2020

  • 多类模型解释的加法逐实例方法

    本论文提出了一种使用解释模型同时针对多个目标类别进行本地解释的框架，该模型具有更高的解释性和更紧凑的解释，通过广泛的实验验证了该模型具有选择稳定和重要特征的能力。

    Jul, 2022

  • EvalAttAI: 对鲁棒和非鲁棒模型中评估属性图的整体方法

    探索透视医学影像分类应用的影响映射方法和度量评估，提出 EvalAttAI 度量已有度量的局限并进行改进，结果显示：使用 Vanilla Gradient 方法的贝叶斯深度神经网络通常更具可解释性。

    Mar, 2023

  • 基于归因和反事实的时间序列分类视觉解释

    本文提出了一个可视化分析工作流程，以支持全局和局部解释的无缝转换，重点是基于时间序列分类的属性和反事实分析，通过采用本地 XAI 技术（归因），将其应用于传统数据集（图像，文本）来分析时间序列分类，进而生成全局概览。

    Jul, 2023

  • 可验证特征归因：后解释性与内在可解释性之间的桥梁

    通过 VerT 方法，将黑盒模型转化为生成可信且可验证特征归因的模型，从而弥合了先前研究中的解释策略差距。

    Jul, 2023

  • 分类模型中预测不确定性的归因

    本文提出一种新的框架，将路径积分、反事实解释和生成模型相结合，以获得包含少量可观察到的人工构件或噪声的归因，并通过对各种复杂度的数据集的流行基准测试进行定量评估，证明这一方法优于现有的替代方法。

    Jul, 2021

  • 统一特征归属和反事实说明：不同的手段达成了相同的目的

    通过真实因果关系框架提供一种将特征归因和反事实解释统一的解释方法，通过在 Adult-Income，LendingClub 和 German-Credit 三个基准数据集上的实验，发现 Feature attribution 方法和 counterfactual explanation 方法并不总是一致的，也表明了他们之间的互补性。

    Nov, 2020

  • 通过指导因式分解来可视化监督学习和自监督神经网络

    本文提出了一种结合梯度和属性方法的算法来提供逐类的可解释性，该算法在纠正显著特征的同时，通过反向投影来提供每像素的局部影响，并成功地证明了在各种基准测试上的优越性能，包括用于梯度方法评估的基准测试以及主要用于评估属性方法的基准测试，此外，本文还成功地证明了自监督方法可以学习语义信息。

    Dec, 2020

  • 利用生成潜空间中的对比可反事实来解释图像分类器

    在不需要重新训练或调整的情况下，使用预训练的生成模型，介绍了生成因果关系和可解释的反事实解释方法，以提供对黑匣子算法的透明性，并获得对面部属性分类器的对比和因果支持和必要分数，从而展示不同属性如何影响分类器输出。

    Jun, 2022