- 分层概念发现模型:一个概念金字塔方案
利用深度学习算法设计了一种多层次概念发现框架,允许人类理解的概念在决策过程中高度解释性,通过图像 - 文本模型和基于数据驱动和稀疏的贝叶斯算法进行多层次概念选择,实验结果表明这种构建不仅胜过最近的 CBM 方法,而且为解释性提供了一个有原则 - 学会接受帮助:干预感知的概念嵌入模型
通过构建和解释高层概念的预测,概念瓶颈模型(CBMs)解决了神经架构的不透明性。我们提出了一种新的 CBM 基于架构和训练范式的模型,称为 Intervention-aware Concept Embedding models(IntCEM - 学习干预概念瓶颈
传统的深度学习模型缺乏解释性,概念瓶颈模型(CBMs)通过其概念表示提供内在解释。本文提出了概念瓶颈记忆模型(CB2M),通过两重记忆,CB2M 能够在新情境中学习推广干预,纠正模型的预测结果,从而自动改进模型性能。实验结果表明 CB2M - 视觉概念过滤下的概念瓶颈用于可解释的医学图像分类
解读性是构建可靠模型的关键因素,通过利用人类可理解的概念作为中间目标,概念瓶颈模型(CBMs)实现了可解释的图像分类。我们提出了一种可视化激活评分,用于衡量概念是否包含视觉线索,通过利用未标记的图像数据简单计算,该评分用于筛选出含有视觉含义 - ICCV稀疏线性概念发现模型
通过对比性语言图像模型和单一稀疏线性层,我们提出了一个简单而直观的可解释框架,通过基于贝叶斯推理的数据驱动伯努利分布来实现框架中的稀疏性,相比相关方法,在准确性和每个样本概念稀疏性方面均表现出色,为新概念的个体研究提供便利。
- ICML概率性概念瓶颈模型
本研究中,我们提出了一种基于概率概念瓶颈模型(Probabilistic Concept Bottleneck Models,ProbCBM)的解释性模型,它可以通过建模概念预测的不确定性来提高可靠性和解释性。我们的方法不仅可以提供高水平的 - ICLR无标记概念瓶颈模型
提出了一种新的框架 Label-free CBM,能够将任何神经网络转换成可解释的 CBM,而无需标记的概念数据,且准确性高,并成功地将其扩展到 ImageNet 数据集上,整个创建过程只需要几个小时,未来能在实际的实际场景中大规模应用。
- AAAI通过端到端解释深入理解概念瓶颈模型
本文研究对于 Concept Bottleneck Models(CBMs)中的输入特征与概念向量之间的关联性,以及如何使用 Layer-wise Relevance Propagation(LRP)、Integrated Gradient - AAAI交互式概念瓶颈模型
该研究提出一种交互式的 CBMs 模型,通过在预测过程中询问人类协作者对于某些概念的标签来提升最终预测准确率,并通过性能比较证明该模型相较于其他方法更为优越。
- AAAI理解和增强基于概念模型的鲁棒性
本研究旨在研究基于概念模型的鲁棒性和输出一致性的表现,提出并分析了不同的恶意攻击方式,并提出了基于对抗训练的防御机制,探讨了它们对模型在系统性扰动下的鲁棒性,发现所提出的防御方法可以提高概念模型的鲁棒性。
- 瓶中之语:语言模型引导的概念瓶颈用于可解释的图像分类
本研究提出了一种基于 GPT-3 语言模型的 LaBo 方法来构建 Concept Bottleneck Models,LaBo 可以有效地搜索与给定问题领域相关的候选瓶颈概念,通过将 GPT-3 的句式概念与图像对齐形成瓶颈层,最终实验结 - 我看到了,我构思了,我得出了结论:渐进式概念作为瓶颈
本文介绍一种层次化概念瓶颈模型用于质量评估胎儿超声扫描图像,并在验证中得出了该模型在预测性能上的优势,并探讨了专家干预对提高预测性能的实际作用。
- 概念嵌入模型:超越准确性和可解释性的平衡
该研究提出了一种新的概念限制模型 —— 概念嵌入模型,学习解释性高维概念表示,支持人类干预和提高模型性能,这是一个在真实世界条件下优化准确性、鲁棒性和解释能力之间权衡的方案。
- ICLR事后概念瓶颈模型
本研究介绍后续概念瓶颈模型(PCBM),它可以将任何神经网络转换为具有解释性的概念瓶颈模型,无需在训练数据中密集注释概念,同时保持模型性能和解释性优势。PCBM 还可以从其他数据集或自然语言描述中通过多模式模型转移概念,从而实现全局模型编辑 - ICLR概念瓶颈模型是否学习预期所得?
研究发现概念瓶颈模型很难满足解释性、可预测性和干预性三个目标,使用事后可解释性方法证明概念与输入空间中任何语义上有意义的东西都不对应,因此质疑概念瓶颈模型在目前形式下的实用性。
- ICML概念瓶颈模型
通过在训练时预测概念并使用这些概念预测标签,概念瓶颈模型提供了对医学影像等领域高级概念的解释与干预,并允许更丰富的人机交互操作,从而实现了与标准的端到端分类器相当的分类准确性。