应对医疗领域深度学习的 “黑箱” 挑战，我们将 GCExplainer（一种自动概念发现解决方案）与 Logic Explained Networks 结合起来，为图神经网络提供全局解释。我们通过使用普遍适用的图构建和分类流程（包括 HoVer-Net 的全景分割和图卷积网络的癌症预测）来展示这一点。通过在乳腺癌的 H&E 切片上训练，我们展示了为临床医生提供可解释和可信赖的人工智能工具的有希望结果。

Dec, 2023

该论文系统地回顾了近期研究的理解神经网络机理、解释深度学习应用特别是在医疗领域方面以及讨论了解释性研究的未来方向，如与模糊逻辑和脑科学的关系。

Jan, 2020

本文通过研究图神经网络（GNNs）中个别神经元的行为，提出新的度量方法和全局解释方法，证明 GNN 神经元充当概念探测器，在逻辑组合的节点度和邻域属性的概念中具有良好的对齐性，将 GNNs 转换成易于理解的概念级别，提高模型的解释性和透明性，并通过实验证明了其优越性。

Aug, 2022

提出了一个可解释的 GNN 框架 BrainNNExplainer，用于脑网络分析，主要由两个联合学习的模块组成：为脑网络设计的骨干预测模型和突出疾病特定脑网络连接的解释生成器，广泛实验证明了 BrainNNExplainer 的独特解释性和优秀性能。

Jul, 2021

该篇论文综述了深度神经网络在机器学习中的应用，针对一些需要保证安全性的决策（如控制系统和医疗应用），介绍了当前解释性人工智能（XAI）领域的研究，探究和解释 DNNs 内部和整体行为的方法。

Feb, 2021

该论文提出了一种基于图卷积网络和注意机制的方法，将组织学检查作为细胞核图的形式来进行深度学习，达到疾病诊断的可解释性。

Jun, 2020

该论文提出了一种带有附加概念层的 CNN 架构的引导学习方法，用于学习视觉特征和单词短语之间的关联，并通过优化预测准确性和特征表示的语义来学习与人类感知一致的概念，实验结果表明，所提出的模型可以在不牺牲准确性的情况下学习一致于人类感知的概念，并可将这些学习到的概念转移到具有相似概念的新对象类别中。

Jan, 2021

本文通过基于概念提取的解释器训练决策树，以增加 CNN 模型的可解释性并提高解释器的保真度和性能。研究表明，Tree-ICE 在可解释性方面胜过基准，并生成更易读的模式解释。

Nov, 2022

本文提出了一种简单而高效的方法，通过自动区分不同的部分模式从每个卷积滤波器中解开卷积神经网络内隐藏的知识层次结构，并构建了一个解释性图形模型，该模型通过无监督学习的方法进行了预训练，该图表现出不同图像中相同的物体部分，并且通过转移图形中的部分模式到部分定位任务中，其性能显著优于其他方法。

Aug, 2017

本研究提出了一种基于专家知识的临床概念或中间特征作为解释单元的自我解释深度学习框架，并在公开的电子健康记录数据集上进行了实验。实验结果表明，该模型的解释性组件不会影响预测性能，并且模型生成的解释可以为医生提供了解病人死亡原因的洞见。

Oct, 2021