Jun, 2024

通过嵌入逼近实现概念学习以加强可解释性与透明度

PDF
TL;DR通过嵌入逼近进行概念学习的概念瓶颈模型（CBM）框架，用于构建图像分类的 CBM，优化决策过程，提供更全面的解释能力，并通过实验证明其在各类基准中的的最新性能。
concept bottleneck modelsinterpretabilityconceptual learning via embedding approximationsimage classificationbottleneck
发现论文，激发创造
  • 稀疏线性概念发现模型

    通过对比性语言图像模型和单一稀疏线性层，我们提出了一个简单而直观的可解释框架，通过基于贝叶斯推理的数据驱动伯努利分布来实现框架中的稀疏性，相比相关方法，在准确性和每个样本概念稀疏性方面均表现出色，为新概念的个体研究提供便利。

    Aug, 2023

  • 在视觉语言概念瓶颈模型中改善概念对齐

    通过专家定义的概念而不是语言模型生成的概念构建可靠的 Concept Bottleneck Models（CBM），提出了一种使用少量标注的概念示例改善模型概念对齐的对比半监督学习方法，实验证明该方法显著提高了概念准确度和分类准确度。

    May, 2024

  • 视觉概念过滤下的概念瓶颈用于可解释的医学图像分类

    解读性是构建可靠模型的关键因素，通过利用人类可理解的概念作为中间目标，概念瓶颈模型（CBMs）实现了可解释的图像分类。我们提出了一种可视化激活评分，用于衡量概念是否包含视觉线索，通过利用未标记的图像数据简单计算，该评分用于筛选出含有视觉含义的重要概念，并在实验中验证了该方法的有效性。

    Aug, 2023

  • 证据概念嵌入模型：面向皮肤疾病诊断的可靠概念解释

    由于医疗决策的重要性，对于医学图像分析中的可解释深度学习方法有着强烈的需求。本文提出了一种基于证据学习的概念嵌入模型 (ev-CEM)，用于建模概念的不确定性，并利用其来纠正在没有完全概念监督下使用视觉 - 语言模型训练概念瓶颈模型时出现的概念错位。通过使用所提出的方法，我们可以增强监督和高效标签设置下的概念解释的可靠性。此外，我们还引入了概念的不确定性以实现有效的测试时干预。我们的评估结果表明，ev-CEM 在概念预测方面具有出色的性能，并且所提出的概念纠正方法有效地减少了高效标签训练中的概念错位。我们的代码可在此 https URL 获取。

    Jun, 2024

  • 学会接受帮助：干预感知的概念嵌入模型

    通过构建和解释高层概念的预测，概念瓶颈模型（CBMs）解决了神经架构的不透明性。我们提出了一种新的 CBM 基于架构和训练范式的模型，称为 Intervention-aware Concept Embedding models（IntCEMs），通过在训练时学习概念干预策略，有效地选择和接受概念干预，从而在测试时显著提高性能。我们的实验证明，当提供测试时概念干预时，IntCEMs 明显优于最先进的概念可解释模型，验证了我们方法的有效性。

    Sep, 2023

  • 学习可推广基于概念的模型的辅助损失

    我们通过引入概念瓶颈模型（CBMs）和合作 - 概念瓶颈模型（coop-CBM）以及概念正交损失（COL），在各种分布转移设置下的实验中，提出了一种提高神经网络透明度和性能的方法。

    Nov, 2023

  • 具有额外无监督概念的概念瓶颈模型

    本文提出了一种基于概念瓶颈模型的新型可解释模型，集成了监督和无监督概念，减少了计算量，同时取得了比 CBM 和 SENN 更优异的实验效果，并可视化每个概念的显著性图，符合语义意义。

    Feb, 2022

  • 稀疏概念瓶颈模型：对比学习中的 Gumbel 技巧

    提出了一种使用概念瓶颈模型 (CBMs) 进行可解释分类的新架构和方法，该方法能够提供解读结果，通过引入称为概念瓶颈层的新类型层，训练 CBMs 取得了显著的准确度提升，并且通过概念矩阵搜索算法改进了复杂数据集上的预测结果。

    Apr, 2024

  • 概率性概念瓶颈模型

    本研究中，我们提出了一种基于概率概念瓶颈模型（Probabilistic Concept Bottleneck Models，ProbCBM）的解释性模型，它可以通过建模概念预测的不确定性来提高可靠性和解释性。我们的方法不仅可以提供高水平的概念推导，还可以推断类不确定性。

    Jun, 2023

  • 关于概念瓶颈模型中的概念可信度

    在这项研究中，我们建立了一个评估概念的可信度的基准，提出了一种概念可信度评分指标，并引入了增强的 Concept Bottleneck Models（CBMs），通过 CLA、CIA 和 PA 模块进一步提高 CBMs 的概念可信度。在五个数据集和十个架构上的实验证明，在没有使用任何概念定位注释的情况下，我们的模型显著提高了概念的可信度，并且比现有技术取得了更高的准确性。

    Mar, 2024