分层概念发现模型：一个概念金字塔方案

Oct, 2023

分层概念发现模型：一个概念金字塔方案

Hierarchical Concept Discovery Models: A Concept Pyramid Scheme

Konstantinos P. Panousis, Dino Ienco, Diego Marcos

TL;DR利用深度学习算法设计了一种多层次概念发现框架，允许人类理解的概念在决策过程中高度解释性，通过图像 - 文本模型和基于数据驱动和稀疏的贝叶斯算法进行多层次概念选择，实验结果表明这种构建不仅胜过最近的 CBM 方法，而且为解释性提供了一个有原则的框架。

Abstract

deep learning algorithms have recently gained significant attention due to their impressive performance. However, their high complexity and un-interpretable mode of operation hinders their confident deployment in real-world safety-critical tasks. This work targets →

deep learning algorithms ante hoc interpretability concept bottleneck models hierarchical concept discovery formulation concept hierarchy

发现论文，激发创造

稀疏线性概念发现模型

通过对比性语言图像模型和单一稀疏线性层，我们提出了一个简单而直观的可解释框架，通过基于贝叶斯推理的数据驱动伯努利分布来实现框架中的稀疏性，相比相关方法，在准确性和每个样本概念稀疏性方面均表现出色，为新概念的个体研究提供便利。

Aug, 2023

使用监督、层次概念学习消除硬概念瓶颈模型中的信息泄漏

提供标签监督和层次化概念集概念预测模式，SupCBM 消除信息泄漏问题，实现准确预测和解释。

Feb, 2024

层次语义树概念白化用于可解释的图像分类

通过在深度模型中主动注入知识，使用语义概念的层次树规范化图像数据实例的表达方式，提高模型可解释性，改善语义概念的分离，并不会对模型的分类性能产生负面影响。

Jul, 2023

我看到了，我构思了，我得出了结论：渐进式概念作为瓶颈

本文介绍一种层次化概念瓶颈模型用于质量评估胎儿超声扫描图像，并在验证中得出了该模型在预测性能上的优势，并探讨了专家干预对提高预测性能的实际作用。

Nov, 2022

具有额外无监督概念的概念瓶颈模型

本文提出了一种基于概念瓶颈模型的新型可解释模型，集成了监督和无监督概念，减少了计算量，同时取得了比 CBM 和 SENN 更优异的实验效果，并可视化每个概念的显著性图，符合语义意义。

Feb, 2022

概率性概念瓶颈模型

本研究中，我们提出了一种基于概率概念瓶颈模型（Probabilistic Concept Bottleneck Models，ProbCBM）的解释性模型，它可以通过建模概念预测的不确定性来提高可靠性和解释性。我们的方法不仅可以提供高水平的概念推导，还可以推断类不确定性。

Jun, 2023

随机概念瓶颈模型

通过建模概念间的依赖关系并引入分布参数化，提出了一种基于概念瓶颈模型的新方法，通过影响相关概念来提高干预效果，并展示了其在合成表格和自然图像数据集上显著提高干预效果的经验证据，同时还通过对 CLIP 推导的概念进行检验来展示 SCBMs 的多功能性和可用性，减少了人工概念注释的需求。

Jun, 2024

视觉概念过滤下的概念瓶颈用于可解释的医学图像分类

解读性是构建可靠模型的关键因素，通过利用人类可理解的概念作为中间目标，概念瓶颈模型（CBMs）实现了可解释的图像分类。我们提出了一种可视化激活评分，用于衡量概念是否包含视觉线索，通过利用未标记的图像数据简单计算，该评分用于筛选出含有视觉含义的重要概念，并在实验中验证了该方法的有效性。

Aug, 2023

瓶颈模型中的跨模式概念化

通过跨模态学习方法，我们在训练中使用文本描述来指导概念的引入，以产生可解释的概念，提高模型的健壮性。

Oct, 2023

无标记概念瓶颈模型

提出了一种新的框架 Label-free CBM，能够将任何神经网络转换成可解释的 CBM，而无需标记的概念数据，且准确性高，并成功地将其扩展到 ImageNet 数据集上，整个创建过程只需要几个小时，未来能在实际的实际场景中大规模应用。

Apr, 2023