Proto2Proto：你能像我一样识别汽车吗？

CVPRApr, 2022

Proto2Proto：你能像我一样识别汽车吗？

Proto2Proto: Can you recognize the car, the way I do?

Monish Keswani, Sriranjani Ramakrishnan, Nishant Reddy, Vineeth N Balasubramanian

TL;DR该论文提出了一种新的方法 Proto2Proto 来通过知识蒸馏将一个基于原型的模型的可解释性传递到另一个模型中，探究模型之间的可解释性传递。该方法有两个新的 loss：全局解释 loss 和 Patch-Prototype Correspondence loss，并提出了三个新的度量来评估模型的可解释性传递。实验结果表明该方法有效实现了模型之间的可解释性传递，并显示出具有竞争性的性能。

Abstract

prototypical methods have recently gained a lot of attention due to their intrinsic interpretable nature, which is obtained through the prototypes. With growing use cases of model reuse and distillation, there is a need to also study transfer of interpretability from one model to anoth

prototypical methods interpretability transfer knowledge distillation global explanation loss patch-prototype correspondence loss

发现论文，激发创造

可解释图像识别的原型解释

通过量化影响色调、形状、纹理、对比度和饱和度的视觉特征，提高基于原型的图像识别的可解释性。

Nov, 2020

这像那样：用深度学习进行可解释的图像识别

介绍了 ProtoPNet，一种深度神经网络架构，该模型通过识别图像的原型部分并将原型部分的证据结合起来，类似于鸟类学家、医生和其他人解决图像分类任务的方式，提供了一定程度的可解释性，并在 CUB-200-2011 数据集和 Stanford Cars 数据集上实现了可比较的准确性。

Jun, 2018

可解释的图像分类与可微分原型分配

ProtoPool 是一种可解释的图像分类模型，共享类别的原型池，并采用完全可微分的方法将原型分配给特定的类别，同时还引入了新颖的聚焦相似函数，将模型集中于罕见的前景特征，它在 CUB-200-2011 和 Stanford Cars 数据集上取得了最先进的准确性，同时大大减少了原型的数量。

Dec, 2021

ProtoP-OD：基于典型部件的可解释目标检测

通过引入原型局部特征作为对象检测的扩展，该论文介绍了一种解释和可视化检测变换器行为的方法，该方法能对模型关注的图像位置进行突出显示，并提供模型关注的语义内容的有限洞察力。

Feb, 2024

ProtoPShare: 原型共享用于可解释图像分类和相似性发现

本文介绍了 ProtoPShare，一种基于原型部件范例的自我解释方法，具有数据依赖的合并修剪功能，能够有效地在类别之间共享原型部件，原型更加一致，模型对图像扰动更加稳健，并在 CUB-200-2011 和斯坦福车辆两个数据集上验证了我们的发现。

Nov, 2020

高斯分布原型混合与生成模型相结合的可解释的图像分类

这篇论文介绍了一种新的原型分布生成学习方法，名为 MGProto，它使用高斯混合模型表示原型分布，并结合原型多样性目标函数来提高表示能力和减少冗余，同时利用其生成性质实现了有效的异常样本检测。实验结果表明 MGProto 在分类和异常样本检测方面取得了最先进的性能，并具有令人鼓舞的可解释性结果。

Nov, 2023

潜在空间原型可解释性在深度神经网络中的局限性

本文指出了原型学习中存在的一个重要缺陷：潜在空间中的相似性与输入空间中的相似性之间存在语义差距，这可能会损害可解释性。通过设计两个实验，我们在 ProtoPNet 上阐明了这个问题，并表明从业人员在实践中部署基于原型模型时应该考虑到这个缺陷。

May, 2021

Proto-BagNets 的本地和全局可解释性设计

介绍了 Proto-BagNets，一种可解释性设计的基于原型的模型，结合了局部特征模型和原型学习的优势，为准确和可解释的图像分类任务提供了有意义、连贯和相关的原型部分。在公开可用的视网膜 OCT 数据上对 Proto-BagNet 进行了玻璃体腔检测的评估，Proto-BagNet 在提供忠实、准确和临床有意义的局部和整体解释的同时，与最先进的可解释和不可解释模型的性能相当。

Jun, 2024

ProtoTEx: 用原型张量解释模型决策

ProtoTEx 是一种基于原型网络的新型白盒 NLP 分类体系结构，其通过原型张量解释模型决策，可在处理没有代表性特征的类别时有效地处理，可精准检测网络新闻中的宣传，并通过原型解释帮助非专业人士更好地识别宣传。

Apr, 2022

基于原型引导的可解释反事实解释

使用类原型的快速、模型无关方法可以找到分类器预测的可解释因果关系解释，并且该方法通过两个新的度量标准在实例级别上定量评估局部可解释性。该方法在图像数据集 MNIST 和表格数据集 Breast Cancer Wisconsin（Diagnostic）上得到了有效的验证，同时消除了由于数值梯度评估而产生的计算瓶颈。

Jul, 2019