ICMLJun, 2023

概率性概念瓶颈模型

PDF
TL;DR本研究中，我们提出了一种基于概率概念瓶颈模型（Probabilistic Concept Bottleneck Models，ProbCBM）的解释性模型，它可以通过建模概念预测的不确定性来提高可靠性和解释性。我们的方法不仅可以提供高水平的概念推导，还可以推断类不确定性。
interpretable modelsconcept bottleneck modelsreliabilityuncertaintyexplanations
发现论文，激发创造
  • 随机概念瓶颈模型

    通过建模概念间的依赖关系并引入分布参数化，提出了一种基于概念瓶颈模型的新方法，通过影响相关概念来提高干预效果，并展示了其在合成表格和自然图像数据集上显著提高干预效果的经验证据，同时还通过对 CLIP 推导的概念进行检验来展示 SCBMs 的多功能性和可用性，减少了人工概念注释的需求。

    Jun, 2024

  • 事后概念瓶颈模型

    本研究介绍后续概念瓶颈模型（PCBM），它可以将任何神经网络转换为具有解释性的概念瓶颈模型，无需在训练数据中密集注释概念，同时保持模型性能和解释性优势。PCBM 还可以从其他数据集或自然语言描述中通过多模式模型转移概念，从而实现全局模型编辑。通过用户研究表明，通过概念层反馈编辑 PCBM 可以在不使用目标域或模型重新训练的数据的情况下，显著提高性能。

    May, 2022

  • 交互式概念瓶颈模型

    该研究提出一种交互式的 CBMs 模型，通过在预测过程中询问人类协作者对于某些概念的标签来提升最终预测准确率，并通过性能比较证明该模型相较于其他方法更为优越。

    Dec, 2022

  • 概念瓶颈模型的可解释预测

    通过提出基于概念解释的概念瓶颈模型（CBMs）来预测剩余寿命，改进了深度学习在工业资产预测中缺乏解释性的问题，并展示了 CBMs 在剩余寿命预测中的性能优势和可解释性。

    May, 2024

  • 具有额外无监督概念的概念瓶颈模型

    本文提出了一种基于概念瓶颈模型的新型可解释模型，集成了监督和无监督概念，减少了计算量，同时取得了比 CBM 和 SENN 更优异的实验效果，并可视化每个概念的显著性图，符合语义意义。

    Feb, 2022

  • 增量残差概念瓶颈模型

    我们提出了递增残差概念瓶颈模型（Res-CBM），以解决概念完整性的挑战。通过优化向量来完成缺失的概念，并将不明确含义的补充向量转化为候选概念库中的潜在概念，以增强任何 CBM 的性能。实验结果表明，Res-CBM 在准确性和效率方面优于当前最先进的方法，并在多个数据集上实现了与黑盒模型相当的性能。

    Apr, 2024

  • 关于概念瓶颈模型中的概念可信度

    在这项研究中，我们建立了一个评估概念的可信度的基准，提出了一种概念可信度评分指标，并引入了增强的 Concept Bottleneck Models（CBMs），通过 CLA、CIA 和 PA 模块进一步提高 CBMs 的概念可信度。在五个数据集和十个架构上的实验证明，在没有使用任何概念定位注释的情况下，我们的模型显著提高了概念的可信度，并且比现有技术取得了更高的准确性。

    Mar, 2024

  • 我们能约束概念瓶颈模型学习语义有意义的输入特征吗？

    概念瓶颈模型是一种具有内在可解释性的模型，本文研究了如何通过细粒度概念注释的数据集学习概念，并通过移除问题概念相关性来实现概念与输入特征之间的语义映射，通过引入基于纸牌领域的合成图像数据集作为未来研究的基准，以及在胸部 X 光数据集上的实证研究来验证概念在实际应用中的可学习性。

    Feb, 2024

  • 证据概念嵌入模型：面向皮肤疾病诊断的可靠概念解释

    由于医疗决策的重要性，对于医学图像分析中的可解释深度学习方法有着强烈的需求。本文提出了一种基于证据学习的概念嵌入模型 (ev-CEM)，用于建模概念的不确定性，并利用其来纠正在没有完全概念监督下使用视觉 - 语言模型训练概念瓶颈模型时出现的概念错位。通过使用所提出的方法，我们可以增强监督和高效标签设置下的概念解释的可靠性。此外，我们还引入了概念的不确定性以实现有效的测试时干预。我们的评估结果表明，ev-CEM 在概念预测方面具有出色的性能，并且所提出的概念纠正方法有效地减少了高效标签训练中的概念错位。我们的代码可在此 https URL 获取。

    Jun, 2024

  • 基于能量的概念瓶颈模型：预测、概念干预和条件解释的统一

    我们提出了基于能量的概念瓶颈模型（ECBMs），通过使用一组神经网络定义候选（输入、概念、类别）元组的联合能量，以解决现有概念瓶颈模型存在的限制，提供更高的准确性和更丰富的概念解释。

    Jan, 2024