AAAIFeb, 2023
通过端到端解释深入理解概念瓶颈模型
Towards a Deeper Understanding of Concept Bottleneck Models Through End-to-End Explanation
Jack Furby, Daniel Cunnington, Dave Braines, Alun Preece
TL;DR本文研究对于 Concept Bottleneck Models(CBMs)中的输入特征与概念向量之间的关联性,以及如何使用 Layer-wise Relevance Propagation(LRP)、Integrated Gradients(IG)等方法来解释 CBMs 的输出结果,提出了用权重比例来衡量概念重要性的新方法。