Jun, 2024

证据概念嵌入模型：面向皮肤疾病诊断的可靠概念解释

PDF
TL;DR由于医疗决策的重要性，对于医学图像分析中的可解释深度学习方法有着强烈的需求。本文提出了一种基于证据学习的概念嵌入模型 (ev-CEM)，用于建模概念的不确定性，并利用其来纠正在没有完全概念监督下使用视觉 - 语言模型训练概念瓶颈模型时出现的概念错位。通过使用所提出的方法，我们可以增强监督和高效标签设置下的概念解释的可靠性。此外，我们还引入了概念的不确定性以实现有效的测试时干预。我们的评估结果表明，ev-CEM 在概念预测方面具有出色的性能，并且所提出的概念纠正方法有效地减少了高效标签训练中的概念错位。我们的代码可在此 https URL 获取。
发现论文，激发创造
  • 学会接受帮助：干预感知的概念嵌入模型

    通过构建和解释高层概念的预测，概念瓶颈模型（CBMs）解决了神经架构的不透明性。我们提出了一种新的 CBM 基于架构和训练范式的模型，称为 Intervention-aware Concept Embedding models（IntCEMs），通过在训练时学习概念干预策略，有效地选择和接受概念干预，从而在测试时显著提高性能。我们的实验证明，当提供测试时概念干预时，IntCEMs 明显优于最先进的概念可解释模型，验证了我们方法的有效性。

    Sep, 2023

  • 概率性概念瓶颈模型

    本研究中，我们提出了一种基于概率概念瓶颈模型（Probabilistic Concept Bottleneck Models，ProbCBM）的解释性模型，它可以通过建模概念预测的不确定性来提高可靠性和解释性。我们的方法不仅可以提供高水平的概念推导，还可以推断类不确定性。

    Jun, 2023

  • 理解和增强基于概念模型的鲁棒性

    本研究旨在研究基于概念模型的鲁棒性和输出一致性的表现，提出并分析了不同的恶意攻击方式，并提出了基于对抗训练的防御机制，探讨了它们对模型在系统性扰动下的鲁棒性，发现所提出的防御方法可以提高概念模型的鲁棒性。

    Nov, 2022

  • 通过嵌入逼近实现概念学习以加强可解释性与透明度

    通过嵌入逼近进行概念学习的概念瓶颈模型（CBM）框架，用于构建图像分类的 CBM，优化决策过程，提供更全面的解释能力，并通过实验证明其在各类基准中的的最新性能。

    Jun, 2024

  • 概念嵌入模型：超越准确性和可解释性的平衡

    该研究提出了一种新的概念限制模型 —— 概念嵌入模型，学习解释性高维概念表示，支持人类干预和提高模型性能，这是一个在真实世界条件下优化准确性、鲁棒性和解释能力之间权衡的方案。

    Sep, 2022

  • 可编辑的概念瓶颈模型

    通过使用数学严谨的闭合形式近似和影响力函数，我们提出了可编辑的概念瓶颈模型（ECBMs），以解决从头重新训练的困境，实现高效率的数据删除和插入操作，从而适应大规模应用中的数据处理需求。

    May, 2024

  • 瓶颈模型中的跨模式概念化

    通过跨模态学习方法，我们在训练中使用文本描述来指导概念的引入，以产生可解释的概念，提高模型的健壮性。

    Oct, 2023

  • 具有额外无监督概念的概念瓶颈模型

    本文提出了一种基于概念瓶颈模型的新型可解释模型，集成了监督和无监督概念，减少了计算量，同时取得了比 CBM 和 SENN 更优异的实验效果，并可视化每个概念的显著性图，符合语义意义。

    Feb, 2022

  • 视觉概念过滤下的概念瓶颈用于可解释的医学图像分类

    解读性是构建可靠模型的关键因素，通过利用人类可理解的概念作为中间目标，概念瓶颈模型（CBMs）实现了可解释的图像分类。我们提出了一种可视化激活评分，用于衡量概念是否包含视觉线索，通过利用未标记的图像数据简单计算，该评分用于筛选出含有视觉含义的重要概念，并在实验中验证了该方法的有效性。

    Aug, 2023

  • 概念瓶颈模型的可解释预测

    通过提出基于概念解释的概念瓶颈模型（CBMs）来预测剩余寿命，改进了深度学习在工业资产预测中缺乏解释性的问题，并展示了 CBMs 在剩余寿命预测中的性能优势和可解释性。

    May, 2024