Jul, 2023

评估可解释的部分 - 原型图像分类器的 Co-12 配方

PDF
TL;DR解释性部分原型模型在设计上可解释的计算机视观模型。这篇论文回顾了现有研究，评估了解释性部分原型模型的解释质量，揭示了研究空缺，并概述了未来对解释性部分原型模型解释质量评估的方法。该论文旨在推进和成熟相对较新的解释性部分原型模型研究领域。此外，我们还提供了一个 “Co-12 小抄”，对评估部分原型模型的发现进行了简明概括。
interpretable part-prototype modelsexplanation qualityevaluationprototypical partsresearch field
发现论文，激发创造
  • 可解释图像识别的原型解释

    通过量化影响色调、形状、纹理、对比度和饱和度的视觉特征，提高基于原型的图像识别的可解释性。

    Nov, 2020

  • 基于部分原型的分类器可解释性分析：一种以人为中心的视角

    使用可解释的部分原型网络作为黑盒图像分类器的替代方法来评估可解释性的框架和实验

    Oct, 2023

  • 基于原型的可解释性乳腺癌预测模型：分析与挑战

    通过原型评估框架 (PeF-C) 定量评估领域知识基础上的原型质量，我们首次系统评估使用我们的 PEF-C 定制的乳腺癌医学图像原型，发现原型质量有待改善以提高相关性、纯度和学习多样性。

    Mar, 2024

  • 基于原型引导的可解释反事实解释

    使用类原型的快速、模型无关方法可以找到分类器预测的可解释因果关系解释，并且该方法通过两个新的度量标准在实例级别上定量评估局部可解释性。该方法在图像数据集 MNIST 和表格数据集 Breast Cancer Wisconsin（Diagnostic）上得到了有效的验证，同时消除了由于数值梯度评估而产生的计算瓶颈。

    Jul, 2019

  • 评估医疗分类模型的属性和原型的可解释性

    基于 Proto-Caps 模型的 AI 方法和 xAI 解决方案提供了可理解的多模态解释，对放射科医师的决策过程有帮助，但需要进一步开发和重复用户研究以适应相应的用例。

    Apr, 2024

  • 这像那样：用深度学习进行可解释的图像识别

    介绍了 ProtoPNet，一种深度神经网络架构，该模型通过识别图像的原型部分并将原型部分的证据结合起来，类似于鸟类学家、医生和其他人解决图像分类任务的方式，提供了一定程度的可解释性，并在 CUB-200-2011 数据集和 Stanford Cars 数据集上实现了可比较的准确性。

    Jun, 2018

  • 可解释的医学图像分类利用原型学习和特权信息

    探索了一种名为 Proto-Caps 的创新解决方案，它能够利用额外的训练过程中可用的信息来创建一个易理解且功能强大的模型，通过在 LIDC-IDRI 数据集上的评估，该方法结合了更强的可解释性和先进的预测性能，相较于可解释的基线模型，在预测恶性程度（93.0%）和肺结节的平均特征方面，我们的方法提高了超过 6% 的准确率，并同时提供了基于案例的推理和可视化验证放射学定义的特征。

    Oct, 2023

  • 使用 PIP-Net 解读和修正医学图像分类

    本文探讨了可解释性机器学习在实际医学影像数据自动诊断支持方面的适用性和潜力，尤其是 PIP-Net 原型部分模型，对于骨折检测和皮肤癌诊断的准确性和可解释性进行了评估。

    Jul, 2023

  • 使用分层原型的可解释图像识别

    通过使用根据预定义的分类法层次化组织的视觉原型模型，可以实现解释性地对图像进行分类，使得该模型能够对来自先前未见过的类别的图像进行解释性地分类。

    Jun, 2019

  • Proto2Proto：你能像我一样识别汽车吗？

    该论文提出了一种新的方法 Proto2Proto 来通过知识蒸馏将一个基于原型的模型的可解释性传递到另一个模型中，探究模型之间的可解释性传递。该方法有两个新的 loss：全局解释 loss 和 Patch-Prototype Correspondence loss，并提出了三个新的度量来评估模型的可解释性传递。实验结果表明该方法有效实现了模型之间的可解释性传递，并显示出具有竞争性的性能。

    Apr, 2022