Nov, 2022

瓶中之语：语言模型引导的概念瓶颈用于可解释的图像分类

PDF
TL;DR本研究提出了一种基于 GPT-3 语言模型的 LaBo 方法来构建 Concept Bottleneck Models，LaBo 可以有效地搜索与给定问题领域相关的候选瓶颈概念，通过将 GPT-3 的句式概念与图像对齐形成瓶颈层，最终实验结果显示，LaBo 提高了 11.7% 的准确性，证明了解释性模型的广泛应用前景。
concept bottleneck modelsinterpretable modelslabogpt-3visual recognition
发现论文，激发创造
  • 阅读就是信仰：重新审视语言瓶颈模型对图像分类的作用

    通过将现代图像描述器与预训练的语言模型相结合，语言瓶颈模型在灾害图像分类任务中能够超过黑盒模型的分类准确率，并且通过融合两者可以产生协同效应，进一步提高分类准确率。

    Jun, 2024

  • 通过迭代生成的概念瓶颈实现可解释性的文本分类

    提出一种名为 Text Bottleneck Models（TBMs）的可解释性文本分类框架，通过使用 Large Language Model（LLM）自动发现和测量一组显著概念，并利用线性层将这些概念值用于最终预测，从而在高风险领域中提供全局和局部解释，进而在广泛文本领域中提高解释性能。

    Oct, 2023

  • 无标记概念瓶颈模型

    提出了一种新的框架 Label-free CBM，能够将任何神经网络转换成可解释的 CBM，而无需标记的概念数据，且准确性高，并成功地将其扩展到 ImageNet 数据集上，整个创建过程只需要几个小时，未来能在实际的实际场景中大规模应用。

    Apr, 2023

  • 通过概念瓶颈模型实现强大且可解释的医学图像分类器

    通过使用自然语言概念，我们提出了一种建立强大而可解释的医学图像分类器的新范式，有效地解决了深度学习模型在医疗行业应用中学习虚假相关性而不是期望特征以及缺乏可解释性的问题。

    Oct, 2023

  • 具有额外无监督概念的概念瓶颈模型

    本文提出了一种基于概念瓶颈模型的新型可解释模型，集成了监督和无监督概念，减少了计算量，同时取得了比 CBM 和 SENN 更优异的实验效果，并可视化每个概念的显著性图，符合语义意义。

    Feb, 2022

  • 概率性概念瓶颈模型

    本研究中，我们提出了一种基于概率概念瓶颈模型（Probabilistic Concept Bottleneck Models，ProbCBM）的解释性模型，它可以通过建模概念预测的不确定性来提高可靠性和解释性。我们的方法不仅可以提供高水平的概念推导，还可以推断类不确定性。

    Jun, 2023

  • 稀疏概念瓶颈模型：对比学习中的 Gumbel 技巧

    提出了一种使用概念瓶颈模型 (CBMs) 进行可解释分类的新架构和方法，该方法能够提供解读结果，通过引入称为概念瓶颈层的新类型层，训练 CBMs 取得了显著的准确度提升，并且通过概念矩阵搜索算法改进了复杂数据集上的预测结果。

    Apr, 2024

  • 稀疏线性概念发现模型

    通过对比性语言图像模型和单一稀疏线性层，我们提出了一个简单而直观的可解释框架，通过基于贝叶斯推理的数据驱动伯努利分布来实现框架中的稀疏性，相比相关方法，在准确性和每个样本概念稀疏性方面均表现出色，为新概念的个体研究提供便利。

    Aug, 2023

  • 视觉概念过滤下的概念瓶颈用于可解释的医学图像分类

    解读性是构建可靠模型的关键因素，通过利用人类可理解的概念作为中间目标，概念瓶颈模型（CBMs）实现了可解释的图像分类。我们提出了一种可视化激活评分，用于衡量概念是否包含视觉线索，通过利用未标记的图像数据简单计算，该评分用于筛选出含有视觉含义的重要概念，并在实验中验证了该方法的有效性。

    Aug, 2023

  • 学习干预概念瓶颈

    传统的深度学习模型缺乏解释性，概念瓶颈模型（CBMs）通过其概念表示提供内在解释。本文提出了概念瓶颈记忆模型（CB2M），通过两重记忆，CB2M 能够在新情境中学习推广干预，纠正模型的预测结果，从而自动改进模型性能。实验结果表明 CB2M 可以成功地推广到未见数据并识别错误的概念，是用户提供 CBM 互动反馈的一种有效工具。

    Aug, 2023