看起来比那个更好:使用 ProtoPNeXt 获得更好的可解释模型
基于原型部件的神经网络(ProtoPartNNs)及其衍生物是一种本质上可解释的机器学习方法。我们提出了 Pixpnet,这是唯一能真正学习和定位于原型对象部分的 ProtoPartNN,通过采用基于位置感受野的架构约束和基于像素的映射,我们实现了可度量的改进可解释性而不牺牲准确性。
Sep, 2023
介绍了 ProtoPNet,一种深度神经网络架构,该模型通过识别图像的原型部分并将原型部分的证据结合起来,类似于鸟类学家、医生和其他人解决图像分类任务的方式,提供了一定程度的可解释性,并在 CUB-200-2011 数据集和 Stanford Cars 数据集上实现了可比较的准确性。
Jun, 2018
本文针对 prototypical part network 在 vision transformer 上的应用存在的 “干扰” 问题,提出了 prototypical part transformer 方法,引入全局和局部原型来捕捉和突出目标的代表性整体和部分特征,并通过显式监督控制局部原型,从而提高整体的可解释性与表现。
Aug, 2022
Deformable ProtoPNet 是一种结合了深度学习和基于案例推理的可解释图片分类器。该模型通过与训练中学习到的原型进行比较来对输入图像进行分类,同时提供 “这看起来像那个” 的解释。与之前的方法不同的是,我们通过提出空间灵活的原型来解决空间固定原型的缺陷。每个原型由几个典型的部分组成,这些部分根据输入图像自适应地改变它们的相对空间位置。相比其他使用原型的基于案例的可解释模型,我们的方法在准确度和提供的解释的丰富性方面均达到了最新水平。
Nov, 2021
ProtoTEx 是一种基于原型网络的新型白盒 NLP 分类体系结构,其通过原型张量解释模型决策,可在处理没有代表性特征的类别时有效地处理,可精准检测网络新闻中的宣传,并通过原型解释帮助非专业人士更好地识别宣传。
Apr, 2022
本文介绍了 ProtoPShare,一种基于原型部件范例的自我解释方法,具有数据依赖的合并修剪功能,能够有效地在类别之间共享原型部件,原型更加一致,模型对图像扰动更加稳健,并在 CUB-200-2011 和斯坦福车辆两个数据集上验证了我们的发现。
Nov, 2020
本文提出了一种基于 ProtoPNet 的神经网络模型,即 MProtoNet,用于处理 3D mpMRI 数据并实现脑肿瘤分类。该模型引入了一种新的注意力机制,结合软化掩膜和在线 CAM 损失函数,在没有人工标签的情况下显著提高了正确性和定位一致性的解释度指标。
Apr, 2023
冷冻预训练的 ViT 后骨干能有效地转化为示范性模型,提高模型的准确性、简洁性和可解释性,通过一系列定量和定性指标评估模型可解释性。
Jun, 2024