Jun, 2018

这像那样：用深度学习进行可解释的图像识别

PDF
TL;DR介绍了 ProtoPNet，一种深度神经网络架构，该模型通过识别图像的原型部分并将原型部分的证据结合起来，类似于鸟类学家、医生和其他人解决图像分类任务的方式，提供了一定程度的可解释性，并在 CUB-200-2011 数据集和 Stanford Cars 数据集上实现了可比较的准确性。
deep network architectureimage classificationprototypical partsinterpretabilityprotopnet
发现论文，激发创造
  • Deformable ProtoPNet：使用可变形原型的可解释图像分类器

    Deformable ProtoPNet 是一种结合了深度学习和基于案例推理的可解释图片分类器。该模型通过与训练中学习到的原型进行比较来对输入图像进行分类，同时提供 “这看起来像那个” 的解释。与之前的方法不同的是，我们通过提出空间灵活的原型来解决空间固定原型的缺陷。每个原型由几个典型的部分组成，这些部分根据输入图像自适应地改变它们的相对空间位置。相比其他使用原型的基于案例的可解释模型，我们的方法在准确度和提供的解释的丰富性方面均达到了最新水平。

    Nov, 2021

  • ProtoArgNet：具有超级原型和论证的可解释图像分类

    这篇论文提出了 ProtoArgNet，这是一种新颖的可解释的深度神经网络架构，用于图像分类，例如 ProtoPNet 中的原型部分学习。ProtoArgNet 使用超级原型，将原型部分组合成单一的原型类表示。此外，ProtoArgNet 采用多层感知器提高准确性，并依赖基于一种论证形式的可解释的阅读方式。ProtoArgNet 可以通过多层感知器 / 论证组件的稀疏化过程适应用户的认知需求。与其他原型部分学习方法不同，ProtoArgNet 可以识别图像中不同区域的不同原型部分之间的空间关系，类似于 CNN 在较早的层中捕捉到的模式之间的关系。

    Nov, 2023

  • 看起来比那个更好：使用 ProtoPNeXt 获得更好的可解释模型

    使用 ProtoPNeXt 框架，结合贝叶斯超参数调整和角度原型相似度度量，有效提高了原始 ProtoPNet 在 CUB-200 上的准确性，同时优化了原型的可解释性，产生了具有显著改进的模型。

    Jun, 2024

  • 基于像素锚点的原型部件网络

    基于原型部件的神经网络（ProtoPartNNs）及其衍生物是一种本质上可解释的机器学习方法。我们提出了 Pixpnet，这是唯一能真正学习和定位于原型对象部分的 ProtoPartNN，通过采用基于位置感受野的架构约束和基于像素的映射，我们实现了可度量的改进可解释性而不牺牲准确性。

    Sep, 2023

  • 可解释图像识别的原型解释

    通过量化影响色调、形状、纹理、对比度和饱和度的视觉特征，提高基于原型的图像识别的可解释性。

    Nov, 2020

  • 潜在空间原型可解释性在深度神经网络中的局限性

    本文指出了原型学习中存在的一个重要缺陷：潜在空间中的相似性与输入空间中的相似性之间存在语义差距，这可能会损害可解释性。通过设计两个实验，我们在 ProtoPNet 上阐明了这个问题，并表明从业人员在实践中部署基于原型模型时应该考虑到这个缺陷。

    May, 2021

  • 使用 PIP-Net 解读和修正医学图像分类

    本文探讨了可解释性机器学习在实际医学影像数据自动诊断支持方面的适用性和潜力，尤其是 PIP-Net 原型部分模型，对于骨折检测和皮肤癌诊断的准确性和可解释性进行了评估。

    Jul, 2023

  • AudioProtoPNet：鸟类声音分类的可解释深度学习模型

    這篇研究論文提出了一種基於 ConvNeXt 骨幹架構和 Prototypical Part Network（ProtoPNet）的音頻分類方法，通過原型模式學習每種鳥類的特徵模式，利用譜圖進行新數據的分類，從而同時提供可解釋性的模型決策解釋。

    Apr, 2024

  • 深度学习通过原型进行基于案例的推理：一种解释其预测的神经网络

    本文中，我们提出一种新的深度学习网络架构，其中包含自编码器和原型层，这种网络可以自然地解释每个预测的原因，并且能够进行分类。

    Oct, 2017

  • 用奖励重新加权、重新选择和重新训练提升原型部分网络

    通过人类反馈加强训练的模型 (R3-ProtoPNet) 提高解释性，同时保持可理解性，适用于多模型集成提高预测性能。

    Jul, 2023