ConceptDistil 是一种基于知识蒸馏的方法，旨在为任何黑盒分类器提供概念解释，在通过两个组件：（1）预测给定实例中存在哪些领域概念的概念模型，（2）通过模仿黑盒模型使用概念模型的预测的蒸馏模型进行分解。在一个真实的用例中验证了 ConceptDistil，显示它能够优化两个任务，为任何黑盒模型提供概念解释能力。

May, 2022

该论文研究了如何利用深度学习神经网络中学习到的内在特征，利用概念分析方法和归纳逻辑编程理论，构建基于符号的模型，实现黑盒机器学习的可解释性，体现其透明度和可靠性的要求。

May, 2021

我们将 CAVs 从事后分析扩展到事前训练，通过使用额外的概念损失进行微调来减少模型偏差。我们还引入了概念蒸馏，使用预训练的知识模型作为教师来创建更丰富的概念。我们展示了概念敏感训练在去偏、分类问题和重建问题中的应用，可以提高模型的可解释性，减少偏差并引入先验知识。

Nov, 2023

为了解释黑盒模型，本文提出使用决策树对其进行全局解释，并采用新的决策树提取算法避免过拟合，评估表明该方法正确率更高且可解释性更强。

May, 2017

本文提出新的因果性先验图和用于消除混淆信息和噪声的两阶段回归技术，以解决模型可解释性工具中的潜在变量和概念完备性等问题，并在合成和真实数据集上进行了实验证明了该方法的成功。

Jul, 2020

该论文提出了一种基于熵的标准及一种新的端到端可微分的方法，用于从概念神经网络中提取逻辑解释，该方法使用一阶逻辑的形式化定义，并考虑了四个案例研究来证明这种熵基准能够从临床数据到计算机视觉中，在安全关键领域中提取简洁的逻辑解释。

Jun, 2021

这篇论文提出了一种名为 DISSECT 的新方法，该方法可以有效地实现生成解释、概念解缠、反事实解释、可解释性和偏见检测等课题。该方法使用少量监督同时训练生成器、鉴别器和概念解缠器，通过生成分类器辨别信号的生成模型，能够自动发现分类器固有的不同概念。应用该方法能够检测分类器的潜在偏见和识别影响预测的虚假因素。

May, 2021

本文提出了一种使用结构因果模型的对比解释模型，将其应用于分类和规划两个经典问题，以帮助人们更好地理解人工智能中的对比解释。

Nov, 2018

本文提出一种将解释生成模块附加在基础网络之上、共同训练整个模块的自我解释深度学习模型，适用于无监督概念学习，能够生成有关概念的有意义的解释，并且在概念监督方面有一定的可塑性，具有更好的性能表现。通过在多个数据集上的实验，证明该模型比最近提出的基于概念解释的模型表现更好。

Aug, 2021

通过从图神经网络的预测中提取全局概念解释的方法，我们提出了一种超越提高信任和验证模型公平性的 xAI 实践，还能够在几乎没有人类先验直觉的应用领域中发现有价值的科学见解，从而对结构 - 性质关系的任务进行更深入的理解。

Apr, 2024