Jun, 2024

Proto-BagNets 的本地和全局可解释性设计

PDF
TL;DR介绍了 Proto-BagNets，一种可解释性设计的基于原型的模型，结合了局部特征模型和原型学习的优势，为准确和可解释的图像分类任务提供了有意义、连贯和相关的原型部分。在公开可用的视网膜 OCT 数据上对 Proto-BagNet 进行了玻璃体腔检测的评估，Proto-BagNet 在提供忠实、准确和临床有意义的局部和整体解释的同时，与最先进的可解释和不可解释模型的性能相当。
interpretabilitymachine learning modelsprototype-based networksimage classification tasksretinal oct data
发现论文，激发创造
  • 可解释图像识别的原型解释

    通过量化影响色调、形状、纹理、对比度和饱和度的视觉特征，提高基于原型的图像识别的可解释性。

    Nov, 2020

  • 这像那样：用深度学习进行可解释的图像识别

    介绍了 ProtoPNet，一种深度神经网络架构，该模型通过识别图像的原型部分并将原型部分的证据结合起来，类似于鸟类学家、医生和其他人解决图像分类任务的方式，提供了一定程度的可解释性，并在 CUB-200-2011 数据集和 Stanford Cars 数据集上实现了可比较的准确性。

    Jun, 2018

  • 基于原型的可解释性乳腺癌预测模型：分析与挑战

    通过原型评估框架 (PeF-C) 定量评估领域知识基础上的原型质量，我们首次系统评估使用我们的 PEF-C 定制的乳腺癌医学图像原型，发现原型质量有待改善以提高相关性、纯度和学习多样性。

    Mar, 2024

  • Deformable ProtoPNet：使用可变形原型的可解释图像分类器

    Deformable ProtoPNet 是一种结合了深度学习和基于案例推理的可解释图片分类器。该模型通过与训练中学习到的原型进行比较来对输入图像进行分类，同时提供 “这看起来像那个” 的解释。与之前的方法不同的是，我们通过提出空间灵活的原型来解决空间固定原型的缺陷。每个原型由几个典型的部分组成，这些部分根据输入图像自适应地改变它们的相对空间位置。相比其他使用原型的基于案例的可解释模型，我们的方法在准确度和提供的解释的丰富性方面均达到了最新水平。

    Nov, 2021

  • 使用 PIP-Net 解读和修正医学图像分类

    本文探讨了可解释性机器学习在实际医学影像数据自动诊断支持方面的适用性和潜力，尤其是 PIP-Net 原型部分模型，对于骨折检测和皮肤癌诊断的准确性和可解释性进行了评估。

    Jul, 2023

  • 看起来比那个更好：使用 ProtoPNeXt 获得更好的可解释模型

    使用 ProtoPNeXt 框架，结合贝叶斯超参数调整和角度原型相似度度量，有效提高了原始 ProtoPNet 在 CUB-200 上的准确性，同时优化了原型的可解释性，产生了具有显著改进的模型。

    Jun, 2024

  • 潜在空间原型可解释性在深度神经网络中的局限性

    本文指出了原型学习中存在的一个重要缺陷：潜在空间中的相似性与输入空间中的相似性之间存在语义差距，这可能会损害可解释性。通过设计两个实验，我们在 ProtoPNet 上阐明了这个问题，并表明从业人员在实践中部署基于原型模型时应该考虑到这个缺陷。

    May, 2021

  • 可解释的医学图像分类利用原型学习和特权信息

    探索了一种名为 Proto-Caps 的创新解决方案，它能够利用额外的训练过程中可用的信息来创建一个易理解且功能强大的模型，通过在 LIDC-IDRI 数据集上的评估，该方法结合了更强的可解释性和先进的预测性能，相较于可解释的基线模型，在预测恶性程度（93.0%）和肺结节的平均特征方面，我们的方法提高了超过 6% 的准确率，并同时提供了基于案例的推理和可视化验证放射学定义的特征。

    Oct, 2023

  • 神经原型树用于可解释的细粒度图像识别

    本研究提出了神经原型树（ProtoTree）方法，将原型学习与决策树相结合，从而通过设计在全局上产生可解释的模型。此外， ProtoTree 可以通过在树中勾勒一个决策路径来在本地解释单个预测并通过集成方法、修剪和二值化调整准确性与可解释性的权衡。

    Dec, 2020

  • ProtoS-ViT：稀疏自解释分类的视觉基础模型

    冷冻预训练的 ViT 后骨干能有效地转化为示范性模型，提高模型的准确性、简洁性和可解释性，通过一系列定量和定性指标评估模型可解释性。

    Jun, 2024